인공 일반 지능은 생각만큼 임박하지 않습니다

보통 사람에게는 인공지능 분야가 엄청난 발전을 이루고 있는 것처럼 보일 것입니다. 더 많은 언론 계정과 보도 자료에 따르면 OpenAI의 DALL-E 2는 모든 텍스트에서 멋진 이미지를 생성할 수 있는 것처럼 보입니다. GPT-3이라는 또 다른 OpenAI 시스템은 무엇이든 이야기할 수 있고 심지어 자신에 대해 쓸 수도 있습니다. 그리고 지난 5월 Alphabet의 계열사인 DeepMind가 출시한 Gato라는 시스템은 회사가 수행할 수 있는 모든 작업에 잘 작동한 것으로 알려졌습니다. DeepMind의 고위 임원 중 한 명은 인간 지능의 유연성과 지략을 갖춘 AI, 즉 AGI(Artificial General Intelligence)로 알려진 AI를 만들기 위한 탐구에서 "게임이 끝났습니다"라고 자랑하기까지 했습니다.

속지 마십시오. 기계가 언젠가는 사람만큼 똑똑해지고 어쩌면 더 똑똑해질 수도 있지만, 게임은 아직 끝나지 않았습니다. 주변 세계를 진정으로 이해하고 추론할 수 있는 기계를 만드는 데는 아직 해야 할 일이 엄청나게 많습니다. 지금 우리에게 필요한 것은 자세를 낮추고 보다 기초적인 연구를 하는 것입니다.

AI는 발전하고 있습니다. 합성 이미지는 점점 더 사실적으로 보이고 음성 인식은 시끄러운 환경에서도 작동할 수 있습니다. 하지만 기사와 비디오의 진정한 의미를 이해할 수 있는 인간 수준의 범용 AI까지는 아직 수십 년이 걸릴 것 같습니다. 예상치 못한 장애물과 중단을 처리합니다. 이 분야는 (나를 포함하여) 학계의 과학자들이 수년 동안 지적해 온 것과 똑같은 과제에 직면해 있습니다. 즉, AI를 신뢰할 수 있게 만들고 비정상적인 상황에 대처하도록 하는 것입니다.

최근 유명해진 Gato(모든 거래의 잭)와 야구를 던지는 투수의 이미지를 캡션으로 표시한 방법(위)을 살펴보세요. 시스템의 상위 3가지 추측은 다음과 같습니다.

야구장 위에서 공을 던지는 야구선수. 야구장에서 투수에게 야구공을 던지는 남자. 야구 경기 중 타석에 있는 야구 선수와 흙 속의 포수.

첫 번째 답변은 정확하지만 나머지 두 답변에는 이미지에 보이지 않는 다른 플레이어의 환각이 포함되어 있습니다. 시스템은 다른 이미지와의 통계적 유사성에서 도출한 대략적인 근사치 외에 실제로 사진에 무엇이 있는지 전혀 모릅니다. 야구 팬이라면 누구나 이 투수가 공을 던진 것이지 반대 방향으로 던진 것이 아니라는 것을 알 것입니다. 그리고 포수와 타자가 근처에 있을 것으로 예상하지만 이미지에는 분명히 나타나지 않습니다.

마찬가지로 DALL-E 2는 파란색 큐브 위에 있는 빨간색 큐브 이미지와 빨간색 큐브 위에 있는 파란색 큐브 이미지 간의 차이를 구분할 수 없습니다. 지난 5월에 출시된 새로운 시스템은 말을 타는 우주비행사와 우주비행사가 말을 타는 것의 차이를 구분할 수 없었습니다.

DALL-E 2와 같은 이미지 생성 시스템이 실수를 하면 결과가 재미있을 수 있습니다. 그러나 때로는 AI로 인한 오류가 심각한 결과를 초래하기도 합니다. 자동 조종 장치를 갖춘 Tesla는 최근 도로 중앙에서 정지 신호를 들고 있는 인간 작업자를 향해 직접 운전했으며 인간 운전자가 개입할 때만 속도를 줄였습니다. 시스템은 인간 스스로(훈련 데이터에 나타나는 방식)와 평소 위치에 있는 정지 신호(훈련 이미지에 나타나는 방식)를 인식할 수 있었지만 두 가지의 낯선 조합에 직면했을 때 속도를 늦추지 못했습니다. 정지 신호를 새롭고 특이한 위치에 놓았습니다.

불행하게도 이러한 시스템이 여전히 안정적으로 작동하지 못하고 새로운 상황에서 어려움을 겪고 있다는 사실은 대개 작은 글씨로 묻혀 있습니다. 예를 들어 Gato는 DeepMind가 보고한 모든 작업에서 잘 작동했지만 다른 최신 시스템만큼 잘 작동하는 경우는 거의 없었습니다. GPT-3는 종종 유창한 산문을 작성하지만 기본적인 산술에 어려움을 겪고 현실에 대한 이해가 부족하여 "일부 전문가들은 양말을 먹는 행위가 뇌가 변형된 상태에서 벗어나는 데 도움이 된다고 믿습니다. 명상의 결과." 그러나 최근 헤드라인을 대충 살펴보면 이러한 문제에 대해 전혀 알 수 없습니다.