구글 전 CEO: 미래 AI가 자기 향상을 실현할 수 있을 때 인류는 조심해야 한다

勇敢的树袋熊1

구글 전 CEO는 인간이 어느 순간 AI (인공지능) 의 전원을 끌 준비가 돼 있어야 한다고 경고했다.
12월 15일 (현지 시각) 구글의 전 CEO이자 집행회장인 에릭 슈미트 (Eric Schmidt) 는 외신과의 인터뷰에서 AI의 출현은 축하할 만한 인류의 성과임에도 불구하고 AI 시스템이'자기 향상 (self-improve)'을 이룰 수 있을 때 인류는"그 전원을 차단하는 것을 진지하게 고려해야 한다"고 말했다.
슈미트는 AI 시스템의 발전 속도가 이렇게 빨라"인간 생존에 문제가 될 수 있다"며"소셜미디어를 보면 이미 우리 나라와 전 세계에 얼마나 격렬한 변화를 가져왔는지.정보 전송, 연구 개발 혁신, 약물 개발, 무기로 사용하거나 사이버 공격에 사용할 수있는 더 지혜롭고 강력한 기술을 상상해보십시오.이 모든 속도는 매우 빠르다"고 말했다.
슈미트는 다음과 같이 지적했다. 그가 종사한 50여년간 그는 그 어떤 기술도 AI와 마찬가지로 빠른 혁신성장속도를 보여주는것을 본적이 없다. 아마도 앞으로 1~2년내에 독립적으로 연구를 할수 있는 AI시스템, 이른바"AI과학자"가 나타날수 있다.일정한 단계로 발전하면 AI는 모든 사람에게 부르면 오는 전문 대가를 붙이는 것과 같다."다만 우리는 모든 사람이 이 힘을 갖게 되면 무엇을 가져올지 모른다."
슈미트는 AI의 잠재적 위험을 중시할 것을 공개적으로 호소해 왔다.이번 인터뷰에서 슈미트는 현재 이렇게 치열한 AI 경쟁에서"어떤 회사가 속도를 위해 모든 안전 절차를 건너뛰고 진정한 피해를 주는 AI 모델을 방출하는 것을 선택할 가능성도 배제할 수 없다"며 정부의 AI 규제의 중요성을 재차 강조했다.
슈미트는 또 정부와 기술자들이 최악의 상황을 미리 예상하고 AI 시스템을 감독할 수 있는 예비 시스템을 준비해야 하며, 이렇게 하면 인간이 AI를 통제할 수 없는 상황에서 AI가 서로 통제할 수 있다고 말했다.
자료에 따르면 슈미트는 2001년부터 2011년까지 구글 CEO를 지냈으며 2019년까지 이사회에서 근무했다.현재 블룸버그 억만장자 순위에서 365억 달러로 46위에 오른 슈미트는 여전히 구글의 모회사인 알파벳의 주주로 약 1억4천700만 주의 알파벳 주식을 보유하고 있다.
주목할 만한 것은 얼마 전 구글의 현 CEO 순다르 피차이 (Sundar Pichai) 가 방금 슈미트와 매우 다른 견해를 발표하여 AI가 이미 충분한 규제를 받고 있다고 주장했다는 것이다.
12월 초 뉴욕에서 열린 딜북 정상회의에서 피차이는 AI의 잠재적 영향에 대해"낙관적"이라며 기존 규제가 이미 많은 AI 애플리케이션을 포괄하고 있다고 주장했다."예를 들어 모든 규제 승인 없이 질병 치료법을 도입할 수 없다.이 과정에서 AI를 사용했다고 해서 모든 것이 바뀌는 것은 아니다.그래서 우리는 신중하게 고려해야 한다. 정말 규제가 추가되어야 한다"고 말했다.
일주일 전 경쟁사인 OpenAI의 12일 연속 업데이트 계획에 맞서 구글은 차세대 대형 모델인 Gemini 2.0을 공식 출시한다고 발표했다. Gemini 1.5 Pro보다 속도가 두 배 빠르고 프로그래밍 어시스턴트, 데이터 과학 대리, 게임 파트너 등을 포함한 다중모드 입출력과 더 많은 지능체 기능을 갖추고 있다.