사용자 데이터 수집 훈련 AI 재촉발 규제, 메타 일시 중단

椰子华

21세기 경제보도 기자 소소 북경보도
이번 주 메타는 EU와 영국 사용자의 데이터를 이용한 AI 훈련을 중단하고 유럽에서 자체 대형 모델 출시를 연기한다고 밝혔다.
아일랜드, 영국, 노르웨이 등 여러 나라의 감독관리기구가 수령하였는데 회사의 이번 조치는 감독관리기구의 요구에 대답한것이다.노르웨이 데이터 보호 기관에 따르면 메타는 큰 모델을 훈련하기 위해 Facebook과 Instagram의 게시물과 사진 사용을 중단하겠다고 그들에게 약속했으며 얼마나 지연될지 확실하지 않으며 다른 EU 국가의 규제 기관과 함께 논의 중이다.
메타의 사용자 데이터 수집 계획은 지난달에 시작되었고, 플랫폼은 유럽 사용자들에게 6월 말에 새로운 프라이버시 정책을 정식으로 시작할 것이라고 알렸다. 회사는 페이스북과 인스타그램의 공개 콘텐츠를 사용하여 인터랙티브 콘텐츠, 상태, 사진 및 제목을 포함한 대형 모델을 훈련할 것이며, 개인 간 채팅 기록과 미성년자 계정 정보는 포함되지 않는다.업데이트된 프라이버시 정책에 반발이 일자 오스트리아 비영리기구 NOYB는 즉각 11개 EU 회원국에 각각 고소를 제기하고 긴급 절차 개시를 요청했다.
논란은 외로운 사례가 아니다. 어떻게 사용자에게 데이터 권한을 부여받아 AI를 훈련시킬 것인가는 모든 인터넷 회사 앞에 놓인 난제이다. 회사는 규정 준수 척도를 잘 잡아야 할 뿐만 아니라 프라이버시 문제에 더욱 민감한 사용자 정서도 고려해야 한다.인터뷰에 응한 전문가들은 21세기 경제보도에 유럽련합의"정당한 리익"조항을 인용하여 사용자수치를 획득한후 갈수록 흔히 볼수 있지만 현재 우리 나라 ≪ 개인정보보호법 ≫ 은 직접 류사한 규정을 설치하지 않았으므로 국내기업은 특히 사용자의 명시적인 동의를 얻는데 주의를 돌려야 한다고 알려주었다.
"정당한 이익"조항은 익숙한 얼굴이 될 수 있다
Meta에 대한 불만 사항에서 NOYB는 두 가지 규정 위반을 지적했습니다.
그 이유는 첫째, 메타가 인공지능에 대한 묘사가 너무 광범위하여 사용자 정보를 수집하고 처리하는 목적을 설명하지 않았기 때문이다.메타의 프라이버시 정책은'인공지능 기술'이라는 단어만 사용했으며, NOYB의 창업자 맥스 슈레임스는'데이터베이스에서 데이터를 사용할 것'이라고 말하는 것과 같다고 주장했다.
"메타는 이 데이터를 사용하여 무엇을 할 것인지, 어떤 제한도 두지 않았다.인공지능 기술은 단순한 챗봇, 매우 공격적인 개인화 광고, 심지어 살상 수준의 드론 무기를 가리킬 수 있다"고 맥스 슈렘스는 설명했다.
두 번째 이유는 사용자가 데이터 수집에 기본적으로 동의하고 거부 과정이 복잡하다는 것입니다.Facebook의 경우 사용자가 플랫폼의 자체 데이터 수집을 거부하려면 설정 및 개인 정보 보호 센터 - 생성 AI - 추가 정보 - Meta 데이터 훈련 방법 대형 모델 5 단계 페이지를 거쳐야 파일 끝에 반대 표를 찾을 수 있습니다.또한 자발적으로 양식을 작성해야만 회사의 손을 거쳐 사용자는 데이터 수집을 거부할 수 있다.
메타는 이에 대해 큰 모델은"유럽 국민의 언어, 지리, 문화 배경의 다양성"을 반영해야 하기 때문에 회사 사용자의 데이터 수집은"통용 데이터 보호 조례"에서 규정한"정당한 이익"(legitimate interests) 에 속해야 하며, 특별히 사용자의 동의를 구할 필요가 없다고 항변했다.
일반적으로"통용 데이터 보호 규정"은 개인 정보 수집이 불법임을 묵인하지만,"정당한 이익"조항은 개인 이익, 상업 이익 또는 공공 이익에서 비롯 될 수있는 사용자의 동의를 얻을 필요가 없이 데이터를 수집해야하는 일부 상황을 면제합니다.
"업계에서는 일반적으로 EU의 개인정보 처리에 대한 제한이 엄격하다고 생각하는데, 사실 정당한 이익 조항을 통해 일정한 공간을 남겼다." 세휘법률사무소 동업자 왕신예는 데이터 합규 업무에 다년간 종사해 왔다. 왕신예는 21세기 경제보도에 정당한 이익 조항의 설정이 복잡하고 유연하며 일련의 테스트를 통과해야 하며 해석 공간이 비교적 큰 합법성 기초라고 말할 수 있다.
앞서 메타도 정당한 이익을 인용한 바 있다. 당시 사용자 데이터를 수집해 개인화된 광고를 하는 행위를 변호했지만, EU 법원은 맥스 슈레임스가 이로 인해 정당한 이익도 AI를 훈련하는 데이터 캡처와 사용에 적용하기 어렵다고 판단했다며 이를 최종 반박했다.왕신예는 일부 신흥 기술의 장면에 대해 다른 합법성 기초는 모두 성립되기 어려울 수 있지만 정당한 이익은 아직 어느 정도 해석할 여지가 있기 때문에 메타가 인용을 시도할 것이라며"앞으로 AI와 관련된 각종 사건에서 이 조항이 반복될 것"이라고 추정했다."
주의해야 할 점은 유럽련합과 달리 우리 나라 개보법은 직접"정당한 리익"을 법정의 면제상황에 써넣지 않았다.그러나 왕신예는 다음과 같이 지적했다. 유럽련합"통용데이터보호조례"가 규정한 일부 전형적인 상황은 우리 나라가 기타 조항을 통해서도 피복되였다.
절강성 컨딩 (북경) 변호사사무소 변호사 정념은 21세기 경제보도에 다음과 같이 알려주었다. 우리 나라의 류사한 규정에 포함된 상황은 제한되여있다. 한부류는 돌발적인 위생사건 또는 자연인을 보호하는 긴급상황이고 다른 한부류는 법정비밀유지행동이다. 례를 들면 전염병이나 공안기관의 반테로조사에서 나온 데이터수집은 사용자의 동의를 얻지 않을수 있지만 기업의 경영행위는 일반적으로 이 범위에 들어가기 어렵다.
사용자 데이터가 업계에서 가장 중요한 요소
"우리는 매우 실망했다.""이것은 유럽의 혁신, 인공 지능 개발 경쟁에 있어서 후퇴이며, 인공 지능이 유럽 국민에게 가져다 준 혜택을 더욱 지연시켰다."메타는 블로그에서 자신이 사실 업계의 방법을 따랐다고 불평했다. 구글과 OpenAI는 모두 이미 유럽 사용자의 데이터를 사용하여 AI를 훈련하고 있다.또"동업자보다 우리의 데이터 수집 방법이 더 투명하다."
그러나 사실은 그렇지 않은 것 같다. 사용자 데이터에 대한 신중함이 점차 공감대를 형성하는 방법으로 발전하고 있다.례를 들면 ChatGPT는 먼저 사용자가 채팅기록기능을 페쇄하여 자신의 개인수치가 공식적으로 가져가 훈련되는것을 거절할수 있도록 허용하였다. 비록 이렇게 하면 불가피하게 대형모형대답의 질에 영향을 미치게 되지만6월 19일, Adobe는 Adobe의 소프트웨어가 사용자의 로컬 또는 클라우드 콘텐츠를 사용하여 생성된 AI 모델을 훈련하지 않도록 명시하는 서비스 약관을 업데이트했습니다.
지난해 국내 사무용 소프트웨어인 WPS는 프라이버시 정책에'자발적으로 업로드한 문서 자료를 탈민처리 후 AI 훈련의 기초 재료로 사용할 것'이라는 내용을 사용자에게 들켜 집단 보이콧을 일으킨 뒤 WPS가 사용자에게 사과하고 사용자 문서가 AI 훈련에 사용되지 않을 것을 약속한 바 있다.
현재 사용자 데이터를 수집하여 AI를 훈련시킬 것이 분명한 거대 기술 기업은 구글과 X: 머스크의 x를 출시하기 위해.AI 회사, X는 작년 9월에 프라이버시 정책을 업데이트했는데, 그중 2.1 조례에는"우리는 수집된 정보와 사용 가능한 정보를 공개하여 우리의 기계 학습이나 인공지능 모델을 훈련시키는 데 도움을 줄 수 있다"고 적혀 있다.작년 7 월 Google의 개인 정보 보호 정책 역시"우리는 Google의 인공 지능 모델을 훈련하는 데 도움이되는 공개 된 온라인 정보 또는 다른 공공 출처의 정보를 수집 할 수 있습니다."
그러나 당시 베이징 대성법률사무소 고급동업자 덩즈쑹은 21세기 경제보도에 대해 구글은 사용자의 개인정보를 수집하고 처리하는 범위와 목적에 대해 상세하게 설명했으며 유럽연합 GDPR 항목의 더욱 엄격한'고지-동의'규칙을 기준으로 하더라도 구글의 방법은 적어도 형식적으로 합규라고 밝혔다.
NOYB는 또 메타가 이번에 수집하고자 하는 것은 2007년 이후 모든 공개·비공개 개인정보로 페이스북과 인스타그램 소셜미디어의 상호작용 흔적을 커버하는 것으로, AI사가 인터넷으로 자료를 공개하려는 일반적인 관행과는 다르다고 지적했다.
규정 준수 요구 사항을 충족하고 사용자의 권리를 존중하면서 기술을 개발하려면 어떻게 해야 합니까?왕신예는 21세기 경제보도에 국내 회사에 대해 사용자 데이터를 수집해 AI를 훈련시키려면'생성식 인공지능 서비스 관리 잠정방법'을 준수해야 한다고 강조했다. 개인정보와 관련된 경우 개인 동의를 얻거나 법률에 부합해야 한다.즉 사용자의 개인정보를 수집하고 사용하기 전에 사용자에게 명확히 고지하고 동의를 얻었는지에 대한 특별한 관심이 필요하다.만약 사전에 사용자의 동의를 얻지 못했다면 법정의무, 공공리익 등 기타 합법성기초가 있어야 하며 그렇지 않을 경우 상응한 합규위험이 존재한다.
청념은 사용자가 제품을 사용하는 것에 기초하여 수집하여 획득한 개인 정보는 명시적인 동의가 필요할 뿐만 아니라 민감한 정보와 관련된 것은 별도의 동의가 필요하다고 덧붙였다.또한 사용자가 개인정보를 쉽게 조회, 정정, 삭제하고 동의를 철회할 수 있도록 해야 하며, 특히 AI 훈련에 사용할 데이터 수집을 거부하는 옵션을 사용자에게 제공하여 사용자의 알 권리와 선택권을 확보해야 한다.