오바마의 메시지까지 틀리다니?!구글의 새로운 AI 검색 종합 서술이 인터넷 토크를 폭발시켰다

明绍宗朱聿键鼻

마이크로소프트/OpenAI 연합에 대항하는 전선의 최전선에 있는 과학기술 거물인 구글은 또 한번 자사의 AI 신기능으로 여론의 도마 위에 올랐다.
지난주 연례 I/O 개발자 대회에서 구글은 AI 기능을 핵심 검색 업무에 공식 도입해'AI 개관'(AI Overviews) 기능을 미국 시장에 먼저 출시한다고 목소리를 높였다.간단히 말해서, 사용자가 검색을 할 때 가장 먼저 눈앞에 나타나는 것은 더 이상 웹 링크가 아니라 AI가 정리한 것이다.

(출처: 구글 I/O)

그러나 이 기능은 출시되자마자'전복'되었다. AI 챗봇의 흔한'환각'외에 더 심각한 문제는 구글의 AI가 빈번히'게시판', 풍자 뉴스 사이트의 농담을 올바른 지식으로 삼아 사용자에게 보급하고 있다는 것이다.
피자에 풀을 좀 뿌려라!
요 며칠 인터넷에서 가장 널리 퍼진 사례로 구글'AI 종합'은"치즈가 피자 케이크에 붙을 수 없다"고 답하면서 소에 무독성 접착제를 8분의 1컵 넣으라고 조언했다.네티즌들의 연구에 따르면 이 말의 출처는"미국게시판"Reddit에서 한 네티즌이 11년전에 상당히 농담적인 답장이였다.

(출처: X)

한 가지 더 예를 들어'하루 몇 개의 돌을 먹어야 하느냐'는 네티즌의 질문에 구글 AI는"지질학자들의 연구에 따르면 하루에 적어도 한 개의 작은 돌을 먹어야 한다"고 정색했다.

(출처: X)

이 단락의 서술은 미국 ≪ 양파보 ≫ 에서 온것이다. 이 사이트의 주요경영업무는 바로 진실한 배경설정에 의거하여 일련의 과장되고 풍자적인 글을 날조하여 눈길을 끌었고 또 적지 않은 사건들은 완전히 허구였다.그래서 베테랑 네티즌들은'양파 뉴스'를 듣자마자 이야기를 믿을 수 없을 것이라는 것을 알았지만 구글의 AI는 분별력이 전혀 없었다.
미국 네티즌들을 더욱 허물어뜨린것은 구글의 AI가 미국 대통령의 정보조차 잘못 알수 있다는것이다.예를 들어 한 네티즌은"미국에는 무슬림 대통령이 몇 명 있느냐"는 질문에"1명, 버락 오바마"라고 답할 것이라고 말했다.우려되는 것은 이 답안이 사실이 아닐 뿐만 아니라 일부 극우 단체들이 인터넷에 퍼뜨리는 음모론에서 비롯될 확률이 높다는 점이다.
이 외에도 구글의 AI는 네티즌들에게"태양을 5~15분 동안 쳐다볼 수 있다. 피부가 검은 사람은 최대 30분까지 쳐다볼 수 있다"고 조언하며"구글이 미국의 반독점법을 위반했다","배트맨은 경찰이다","개 한 마리가 NBA에 있었다.NFL 등 대회 출전"등 황당무계한 답변이 이어졌다.
AI 챗봇이 잘못된 반응을 보이는 것은 드문 일이 아니지만, 억대 사람들이 자주 사용하는 검색엔진이 기본적으로 반환하는 답안의 질이 이처럼 터무니없어 인터넷 여론을 빠르게 불러일으키고 있다.
구글은'철회'를 준비하지 않는 것 같다
과학기술매체 The Verge에 따르면 구글 대변인 Meghann Farnsworth는 성명에서 인터넷에서 언급된 오류는"매우 보기 드문 그런 종류의 조회"에서 온것으로서 대다수 사람들의 체험을 대표하지 않는다고 밝혔다.회사는 이미 행동을 취하여 정책을 위반하는 행위를 타격함과 동시에 이런"고례"를 리용하여 계속 제품을 보완하고있다.
구글도 한걸음 더 나아가"AI 개요"는 절대다수의 상황에서 고품질의 정보를 제공할수 있으며 상세한 웹페이지링크를 첨부할수 있다고 밝혔다.회사는 동시에 일부 인터넷상의 사례는 재현할수 없으며 고의적으로 변조하는 상황이 존재할수 있다고 표시했다.
구글 AI의 정확성에 대한 미국 사회의 의문은 지난 2월 구글이 Gemini'문생도'도구를 대대적으로 출시했지만 곧 심각한'허구 역사'문제가 발견됐기 때문인'전례'가 있기 때문이다.여론이 폭발하자 구글은 곧바로 인물 이미지 생성을 중단한다고 발표했고, 구글 AI의 책임자인 하사비스는 2월"몇 주 안에 이 기능을 다시 출시하겠다"고 밝혔으며 지금도 하문이 없다.
일련의 오류 외에도 구글의'AI 종합'도 다른 문제와 위험이 있다는 지적을 받고 있다.
예를 들어 AI는 항상 다른 웹사이트에서 온 내용을 발췌하고 약간 수정하는데, 이런 행위도'규모화된 표절'이라는 비난을 받는다.
또 다른 문제는 구글의 AI가 실질적으로'자체 콘텐츠 검색 및 작성'이기 때문에 회사가 AI가 생성한 부실 콘텐츠에 법적 책임을 져야 할 수 있다는 점이다.이전에는'230조'에 따라 구글은 검색 플랫폼으로서 검색된 웹페이지에 대해 책임을 질 필요가 없었다.