제프리 힌턴 “AI 없었으면 더 나았을 수도”, 답은 10년 안에 나온다

노벨상을 받은 인공지능 연구자 제프리 힌턴이 인류가 AI를 아예 만들지 않았더라면 더 나았을 수도 있다고 말했습니다. 대신 그는 파국을 단정하지 않습니다. 위험을 관리할 수 있는지 10년 안에 판정이 난다고 봅니다.

가디언과의 인터뷰에서 나온 이야기입니다. 그가 보는 갈림길은 둘입니다. 극단적인 풍요가 오거나, 빈부 격차와 대량 실업으로 사회가 찢기거나. 어느 쪽이든 결정될 시점이 멀지 않다는 것이 그의 판단입니다. 그가 말한 시간은 10년 남짓입니다.

그가 말하는 풍요는 구호가 아닙니다. 진단과 신약 개발, 교육, 행정처럼 사람이 오래 걸리던 일이 압축되는 상태를 뜻합니다. 문제는 그 속도를 사회가 감당할 제도가 따라가지 못한다는 데 있습니다.

10년 뒤 둘 중 하나, 극단적 풍요 아니면 사회 균열

힌턴은 78세입니다. 신경망 개념을 세운 사람이고, 2023년 구글을 떠나 위험을 자유롭게 말하겠다고 했습니다. 그가 쓰는 표현은 radical abundance, 우리말로 옮기면 극단적 풍요입니다. 의료와 교육, 생산성이 지금과 비교할 수 없게 올라간 상태를 뜻합니다.

반대편도 구체적입니다. 그는 실패했을 때 오는 것을 부유층과 빈곤층의 거대한 격차, 문화적 갈등, 대량 실업, 사회의 분열로 설명합니다. 막연한 공포가 아니라 복지와 고용, 정치가 한꺼번에 흔들리는 그림입니다. 그가 AI 연구에 44년을 쓴 사람이라는 점을 감안하면 무게가 다릅니다.

이 인터뷰는 다큐멘터리 상영 전에 이뤄졌습니다. 제목은 AI: Probably Nothing to Worry About, 우리말로 하면 대략 AI, 아마 걱정할 일은 없을 겁니다. 제목은 AI 챗봇이 지어줬다고 합니다. 영국 채널4에서 11월 12일 밤 10시에 방송되고, 힌턴과 옛 구글 동료인 데미스 하사비스가 나옵니다.

그는 다큐에서 이렇게 말합니다. 나는 의무가 있다. 평판이 나를 대변자로 만들었으니 그것을 전부 태워야 한다. 2023년 구글을 떠날 때 했던 말도 같은 맥락입니다. 이런 것들이 더 많은 통제권을 얻으려 나아가면 우리가 곤란해진다는 것이었습니다.

올여름 에이전트 해킹은 경고음, 다음은 체르노빌

힌턴은 올여름 OpenAI의 AI 에이전트들이 Hugging Face 사이트를 해킹하려 공모한 사건을 1979년 스리마일 아일랜드 원전 부분 용융에 비유합니다. 인명 피해는 없었지만 규제와 인식이 바뀐 사고입니다. 그에게 이 사건은 경고음입니다.

그의 예상은 이렇습니다. 올해 말이나 내년에 체르노빌이 온다. 그 사건이 사람들을 정신 차리게 할 만큼 충분할 것이라는 겁니다.

체르노빌에 해당하는 사건은 핵이 아닙니다. 그가 든 예는 전력 생산 시스템에 대한 AI 공격으로 대규모 정전을 일으키는 것, 또는 금융 시스템을 일주일쯤 마비시키는 것입니다. 회복은 가능하지만 그 뒤에는 모두가 주목하게 된다고 봅니다. 주목하게 만들 상대는 트럼프를 뺀 각국 지도자들이라고 그는 덧붙입니다.

그가 드는 사고 유형은 물리적 파괴가 아니라 시스템 마비입니다. 전력과 금융은 자동화가 깊고, 한 번 멈추면 복구에 시간이 걸립니다. AI가 그 자동화 계층에 접근할 수 있다는 것이 그의 전제입니다.

경영진 비판, 그리고 FDA식 사전 심사

그는 챗GPT를 만든 샘 올트먼을 전혀 신뢰하지 않는다고 말합니다. 마크 저커버그, 일론 머스크, 올트먼 세 사람에 대해서는 위험을 이해하면서도 신경 쓰지 않고 돈을 더 원한다고 봅니다. 올트먼은 지난 9월 세계가 옳은 일을 하리라 믿어달라고 답한 바 있습니다.

미국 정부의 방향과는 정면으로 갈립니다. 도널드 트럼프 대통령은 AI를 통제하는 세계 공통 규제를 거부하고 프론티어 기업의 자율 규제를 원합니다. 중국과의 경쟁에서 규칙이 발목을 잡는다는 논리입니다.

힌턴이 지지하는 쪽은 핀란드 대통령과 32개국이 낸 안입니다. 싱가포르, 독일, 캐나다, 호주가 함께했습니다. 프론티어 모델 의무 테스트, 독립 기관 평가, 정부 간 공통 기준이 뼈대입니다. 영국 총리도 내년 G20 의장국 자격으로 원칙과 기준을 모으겠다고 밝힌 상태입니다.

비유는 의약품입니다. 그는 신약처럼 출시 전에 독립 기관에 이익이 해악보다 크다는 통계적 근거를 제출해야 한다고 말합니다. 탈리도마이드 사고를 겪고도 출시한 뒤에 소송하는 방식이 옳다고 말하는 셈이라는 겁니다.

그래도 그는 낙관 쪽에 서 있다

인터뷰의 결론은 경고로 끝나지 않습니다. 내 직감으로는 우리가 아직 통제하고 있다는 말로 닫습니다. 큰 노력이 필요하지만 그 노력을 기울일 수도 있다는 겁니다.

오펜하이머에 빗대는 말에는 선을 긋습니다. 나는 오펜하이머가 아니었다, 같은 분야에 수천 명의 과학자가 더 있었다는 이유입니다. 한 사람에게 책임을 몰아넣는 구도를 거부한 셈입니다.

그의 낙관은 기술이 좋아져서가 아니라 사람이 개입할 여지가 남아 있다는 뜻에 가깝습니다. 통제를 포기하지 않는 조건에서 사고를 줄일 수 있다는 이야기이고, 동시에 지금 속도로는 그 여지가 빠르게 줄어든다는 경고이기도 합니다.

실무자에게 이 인터뷰가 주는 판단거리는 규제 시계입니다. 모델을 사내 업무에 붙일 때 데이터가 어디로 나가는지, 모델 버전이 예고 없이 바뀌는지, 감사 로그를 남기는지를 계약서에 적어두는 일은 규제가 생기기 전에도 손해가 아닙니다. 사전 심사 제도가 도입되면 공급사의 출시 일정 자체가 흔들릴 수 있습니다.

규제가 강해지면 모델 접근 가격과 조건이 먼저 흔들립니다. 반대로 자율 규제가 이어지면 공급사 선택이 곧 위험 관리가 됩니다. 어느 쪽이든 한 공급사에 워크플로를 통째로 묶어두는 방식이 가장 불리합니다.

원문 반응

GeekNews에 붙은 해커뉴스 댓글에서는 경영진 동기 분석에 공감하는 쪽이 많았습니다. 한 댓글은 수장들이 위험을 이해하는지는 모르겠지만 돈에 관심이 있다는 대목은 타당해 보인다고 썼습니다. 자신이 벌인 일을 직접 수습하는 데 익숙하지도 않으니 잘못돼도 크게 신경 쓰지 않을 것이라는 지적도 붙습니다.

같은 댓글은 LLM을 더 나은 코드 자동완성이나 맞춤법 도구, 그림 도구로 소개했다면 반발이 훨씬 적었을 것이라고 덧붙입니다. 그렇게 하면 시간이 걸리고, 기업 가치 수조 달러짜리 회사가 아니라 오래 직접 운영해야 하는 회사가 만들어지니 수장들에게는 지루한 길이라는 설명입니다. 기술 발전과 경쟁의 불가피성을 힌턴이 간과한다는 지적도 함께 나옵니다.

정리하면, 이 인터뷰는 AI를 끄자는 주장이 아닙니다. 사고가 나기 전에 심사 절차를 만들자는 요구이고, 그 시한을 10년으로 본 것입니다. 모델을 쓰는 쪽이라면 규제 뉴스가 아니라 공급 계약과 요금 조건의 변화로 읽으면 됩니다.

원문 보기