2024년 6월 20일, 미국 다트머스공정학원은 OpenAI 최고기술책임자 미라 무라티 (Mira Murati) 와의 인터뷰 동영상을 발표했다.미라는 인터뷰에서 GPT-5가 1년 반 후에 발표될 것이며, 어떤 분야에서는 박사의 지능에 도달할 것이라고 밝혔다.이와 동시에Claude 3.5 Sonnet，가장 똑똑한 인간 박사보다 높은 점수를 받은 최초의 모델이 되었다.
최근 OpenAI CTO 미라 무라티는 다트머스 공학원에서 각 산업에서 AI의 변화 잠재력과 업무에 미치는 영향에 대한 중요한 발언을 했다.
미라는 약 1년 반 뒤 OpenAI가'박사과정 수준'의 인공지능을 발표할 것이라고 밝혔다.이에 비해 GPT-3는 유아의 지능수준에 해당하며 GPT-4는 고등학생의 지능수준에 더욱 비슷하다.그러나 그는 박사 등급의 AI는 특정 임무에만 적용된다면서"이런 시스템은 특정 임무에서 이미 인간 수준에 도달했다. 물론 많은 다른 임무에서는 아직 도달하지 못했다"고 강조했다.
한편, Anthropic은 6 월 20 일 지금까지 가장 지능적인 모델이라고 알려진 새로운 대형 모델 인 Claude 3.5 Sonnet을 발표했습니다.
X
Claude 3.5 Sonnet은 AGI의 카운트다운을 75% 로 밀어 넣었을 뿐만 아니라 가장 똑똑한 인간 박사 점수보다 높은 점수를 측정 한 최초의 모델이 되었습니다.
Life Architect
Life Architect에 따르면 Claude 3.5 Sonnet은 대학원급 추론 (GPQA), 본과급 지식 (MMLU), 코딩 능력 (HumanEval) 에서 SOTA를 새로 고쳤다.이 중 MMLU에서는 90.4점을 받았습니다.GPQA에서는 67.2점을 받았다.LLM이 GPQA 점수의 65% 를 돌파하여 가장 똑똑한 인간 박사 수준에 도달한 것은 이번이 처음이다.일반 박사는 GPQA에서 34%, 분야 내 전문 박사는 65% 를 기록했지만 Claude 3.5 Sonnet은 분명히 그들을 앞질렀다.
Life Architect
다트머스 아카데미와의 인터뷰에서 사회자는 가설적인 질문을 던졌다."3년 후에 GPT가 매우 지능적으로 변했다고 가정하면 스스로 인터넷에 연결되고 행동을 시작할 수 있을까?"
이에 대해 밀라는 "확실히 우리는 이에 대해 많은 생각을 했다. AI 지능체의 능력을 갖춘 시스템이 확실히 존재하는데 그들은 인터넷에 련결되여 상호간의 교류를 진행하고 공동으로 임무를 완수하거나 인류와 빈틈없이 협력한다.그러므로 우리가 미래에 AI와의 협력은 우리가 지금 서로간의 협력처럼 될수 있다.»
Metaculus
인공 지능의 진보 속도는 사람을 경탄하게 한다.
2022년에 전문가들은 인간 수준의 인공지능이 금세기 60년대에 일어날 가능성이 50% 라고 예측했다.그러나 Metaculus 예측자 커뮤니티는 40 년대를 예측하기보다 더 일찍 예측했습니다.GPT-4가 발표됨에 따라 커뮤니티의 예측 시기가 앞당겨지기 시작했으며 2032년, 심지어 이르면 2027년에 AGI를 실현할 수 있을 것으로 예상된다.
Metaculus
6월 20일 새벽, 전 OpenAI 공동창시자이며 수석과학자인 일야 수츠크 (Ilya Sutskever) 는 소셜미디어에서 새로운 회사 SSI를 설립하고 안전슈퍼지능에 전념한다고 관선했다.
네티즌은"좋은 녀석!AGI를 직접 넘어 Super Intelligence (슈퍼 인텔리전스) 로 한 걸음 나아간 것"이라고 말했다.
X
일야는 SSI 공식 계정에서 관선한'오프닝 멘트'에서 "슈퍼인텔리전스가 손에 닿았다"며 "보안 슈퍼인텔리전스(SSI) 구축은 우리 시대의 가장 중요한 기술적 문제"라고 밝혔다.
이어 "포커스 하나, 목표 하나, 제품 하나로 안전한 슈퍼인텔리전스를 직접 추구할 것"이라며 "작고 효율적인 팀이 만들어낸 혁명적인 돌파구를 통해 이를 실현할 것"이라고 덧붙였다.
X
한마디로 이르아팀이 해야 할 일은 네티즌들의 고전적인 이모티콘식의 총화로 보면 다음과 같다.
X
그러나 인공 슈퍼 지능의 발전은 일부 우려를 불러 일으켰습니다.
최근, 한 사전 인쇄본 논문은 인공 슈퍼 지능 (ASI) 의 실현에 따라 인공 지능의 비길 데 없는 능력은 사람들로 하여금 그를 신으로 존경하게 할 수 있으며, 따라서 일종의 인지 편차가 생겨 의심하지 않고 그것의 결정을 받아들일 수 있다는 관점을 제기했다.
arxiv.org
저자 테비코 우야르 (Tevfik Uyar) 는이 현상이 우리가 기술 진보와 윤리의 우월성을 혼동 할 수 있다고 경고했다."우리는 ASI의 능력이 강하다고 해서 그것이 도덕적, 윤리적으로도 마찬가지로 우월하다고 생각할 수 없다."
더욱 걱정스러운 것은 이런 동태가 일종의'기술 관료 신권 통치'를 초래할 수 있다는 것이다. 이런 통치 하에서 의사결정권이 ASI로 이양되어 인류의 주동성과 비판적 사고를 파괴할 수 있다.저자는 "우리가 ASI에 의사결정권을 맡긴다면 인간의 능동성과 비판적 사고가 훼손될 수 있다"고 강조한다.
转播
