마이크로소프트가 AI에 대해 '브레이크'가 필요하다고 경고

 

브래드 스미스 MS 최고법무책임자 겸 부회장은 블로그를 통해  AI 기술 통제에 대해 다뤘다.

그는 AI 개발 감시 기구를 설치해야되며, 연방차원의 필요성을 강조한 것이다.

 

음... 지금 다소 동떨어진 얘기가 아닐까 생각되지만, 이러한 주장이 MS의 유력인사가 펼친다는 것을 고려하면

미리 알아볼 필요는 있을듯하다. 

 

MS CLO의 주장 요약

• 인공지능은 악용될 경우 인류에게 큰 위협이 될 수 있음
• 인공지능은 무기 개발, 선거 개입, 개인 정보 유출 등에 사용될 수 있음.
• 인공지능이 너무 강력해져서 인간을 통제할 수 있게 될 가능성도 있음.
• 인프라에 사용되는 인공지능에 브레이크가 필요함.

인공지능에서의 브레이크의 의미는 간단하다. AI가 신호등을 조절한다고 가정하면, 차량이 인공지능의 지시에 순응할 때는 문제가 되지 않는다.

 

그러나 AI의 지시를 따르지 않는 차량이 나타나거나, 차에서 사람이 튀어나오는 등 평범하지 않은 상황이 발생했을 때, AI의 의사결정을 막을 수 있는 '브레이크'가 필요하다는 것이다. 

 

그 브레이크는 인간이 관찰하면서 결정할 수도 있고, 마찬가지로 '브레이크를 위한 AI'가 요구될 수도 있다. 

내가 이 글을 쓰는 이유는 그만큼 AI가 우리 삶에 가깝게 다가올 준비를 마쳤다고 느껴저서이다. 이제 다양한 직업군이 대체되고 소멸될 것 같다.