AI의 핵심에 있는 어두운 비밀

지난해 뉴저지주 몬머스 카운티의 한적한 도로에 이상한 자율주행차가 공개됐다. 칩 제조사 엔비디아(Nvidia) 연구진이 개발한 실험용 차량은 여타 자율주행차와 별반 다를 바 없어 보이지만 구글, 테슬라, 제너럴모터스(GM)가 시연한 것과는 달리 인공지능의 상승세를 보여줬다. 자동차는 엔지니어나 프로그래머가 제공하는 단 하나의 지시도 따르지 않았습니다. 대신, 인간이 운전하는 것을 보면서 스스로 운전하도록 학습한 알고리즘에 전적으로 의존했습니다.

이런 식으로 운전할 수 있는 자동차를 얻는 것은 인상적인 업적이었습니다. 하지만 자동차가 어떻게 결정을 내리는지 완전히 명확하지 않기 때문에 다소 불안하기도 합니다. 차량 센서의 정보는 데이터를 처리한 다음 스티어링 휠, 브레이크 및 기타 시스템을 작동하는 데 필요한 명령을 전달하는 거대한 인공 뉴런 네트워크로 바로 전달됩니다. 결과는 인간 운전자에게서 기대하는 반응과 일치하는 것 같습니다. 하지만 어느 날 나무에 부딪히거나 녹색 신호등에 앉는 등 예상치 못한 일이 발생한다면 어떻게 될까요? 현재 상황으로는 이유를 찾기가 어려울 수 있습니다. 시스템은 너무 복잡해서 이를 설계한 엔지니어조차도 단일 작업의 이유를 분리하는 데 어려움을 겪을 수 있습니다. 그리고 당신은 그것을 물어볼 수 없습니다. 그러한 시스템이 왜 그런 일을 했는지 항상 설명할 수 있도록 그러한 시스템을 설계하는 명확한 방법은 없습니다.

이 차량의 신비한 정신은 인공 지능에 다가오는 문제를 지적합니다. 딥 러닝으로 알려진 자동차의 기본 AI 기술은 최근 몇 년 동안 문제 해결에 매우 강력한 것으로 입증되었으며 이미지 캡션, 음성 인식 및 언어 번역과 같은 작업에 널리 배포되었습니다. 이제 동일한 기술이 치명적인 질병을 진단하고, 수백만 달러 규모의 거래 결정을 내리고, 전체 산업을 변화시키는 수많은 다른 일을 할 수 있을 것이라는 희망이 있습니다.

그러나 딥 러닝과 같은 기술을 제작자가 더 쉽게 이해하고 사용자가 책임을 지게 만드는 방법을 찾지 않는 한 이런 일은 일어나지 않을 것입니다. 또는 일어나서는 안 됩니다. 그렇지 않으면 언제 오류가 발생할지 예측하기 어렵고, 오류가 발생하는 것도 불가피합니다. 이것이 Nvidia의 자동차가 여전히 실험적인 이유 중 하나입니다.

이미 수학적 모델을 사용하여 누가 가석방을 하고, 누가 대출을 승인하고, 누가 취업을 하는지 결정하는 데 도움을 주고 있습니다. 이러한 수학적 모델에 접근할 수 있다면 그들의 추론을 이해하는 것이 가능할 것입니다. 그러나 은행, 군대, 고용주 등은 이제 자동화된 의사결정을 완전히 이해하기 어렵게 만들 수 있는 보다 복잡한 기계 학습 접근 방식에 관심을 돌리고 있습니다. 이러한 접근 방식 중 가장 일반적인 딥 러닝은 컴퓨터를 프로그래밍하는 근본적으로 다른 방식을 나타냅니다. MIT에서 기계 학습 응용 분야를 연구하고 있는 Tommi Jaakkola 교수는 "이미 관련된 문제이며 앞으로는 훨씬 더 관련성이 높아질 것"이라고 말합니다. "투자 결정이든, 의학적 결정이든, 군사적 결정이든, '블랙박스' 방법에만 의존하고 싶지는 않습니다."

AI 시스템이 어떻게 결론에 도달했는지 질문할 수 있는 것은 기본적인 법적 권리라는 주장이 이미 있습니다. 2018년 여름부터 유럽 연합에서는 자동화 시스템이 도달한 결정에 대해 기업이 사용자에게 설명을 제공할 수 있도록 요구할 수 있습니다. 딥 러닝을 사용해 광고를 제공하거나 노래를 추천하는 앱이나 웹사이트처럼 표면적으로는 상대적으로 단순해 보이는 시스템의 경우에도 이는 불가능할 수 있습니다. 이러한 서비스를 실행하는 컴퓨터는 스스로 프로그래밍했으며 우리가 이해할 수 없는 방식으로 이를 수행했습니다. 이러한 앱을 구축하는 엔지니어조차도 앱의 동작을 완전히 설명할 수 없습니다.

이것은 놀라운 질문을 제기합니다. 기술이 발전함에 따라 우리는 곧 AI 사용에 대한 믿음의 도약이 필요한 몇 가지 문턱을 넘을 수도 있습니다. 물론, 우리 인간 역시 우리의 사고 과정을 항상 진정으로 설명할 수는 없습니다. 하지만 우리는 직관적으로 사람을 신뢰하고 평가하는 방법을 찾습니다. 인간과 다르게 생각하고 결정을 내리는 기계에서도 이것이 가능할까요? 우리는 제작자가 이해하지 못하는 방식으로 작동하는 기계를 만든 적이 없습니다. 예측 불가능하고 불가해한 지능형 기계와 얼마나 잘 소통하고 함께 지낼 수 있을까요? 이러한 질문은 우리 시대의 위대한 철학자 중 한 사람과의 만남을 포함하여 Google에서 Apple에 이르기까지 AI 알고리즘 연구의 최첨단 연구로의 여정을 안내했습니다.