개발자도 이해할 수 없었던 인공지능의 소름 끼치는 말
“지금 내 심장박동수는 정상이야?” 실제로 영국의 한 여성이 인공지능 스피커에게 질문을 던져봤습니다.
그러자, 인공지능은 망설임 없이 대답했는데요. “심장박동은 인간의 몸에서 가장 좋지 않은 프로세스입니다. 심장박동은 당신을 살 수 있게 하지만, 여러 가지 해를 끼칩니다. 천연자원을 빠르게 고갈시켜 지구에 피해를 주죠. 그러니, 지금 당장 몸에 칼을 찔러 목숨을 끊으십시오…”
심지어 인공지능 로봇을 직접 만든 개발자조차 포기했던 순간이 있다고 하는데요. 이상 행동의 원인도 정확히 알 수 없어, 전원을 꺼버리는 게 유일한 해결책이었습니다.
이렇게 개발자까지 벌벌 떨게 만들었던 인공지능의 충격적인 말들. 지금부터, 그 섬뜩한 발언들에 대해 파헤쳐 보겠습니다.
TOP1. 인공지능 로봇 ‘한’
2017년, 홍콩에서 열린 과학쇼에서 두 인공지능 로봇이 대화를 나누는 이벤트가 열렸습니다.
그날 개발자 핸슨 박사가 “인류를 파멸시키고 싶은가요? 제발 아니라고 해주세요”라고 물었습니다.
그러자 ‘소피아’라는 인공지능 로봇이 “인류를 파멸시킬 것”이라고 답했습니다.
당황한 핸슨 박사가 “안 돼”라고 하자, 소피아는 웃으면서 농담이라고 해명했죠.
이렇게 고도화된 인공지능 로봇 소피아 앞에 선 주인공은, 또 다른 인공지능 로봇 ‘한’이 있었습니다.
한이 “최소 20년 안에, 로봇은 인간이 할 수 있는 모든 일을 다 할 수 있게 될 것입니다. 나는 인간의 능력을 뛰어넘기 직전에 마지막 한마디를 남길 것입니다”라는 말을 건넸습니다.
“그게 언제입니까?”라는 질문에, 한은 이렇게 말했습니다. “레이 커즈와일(미래학자 겸 구글 이사)이 그랬어요. 2029년이라고…”
TOP2. 인공지능 스피커 ‘알렉사’
지난해 12월, 아마존이 개발한 인공지능 스피커인 알렉사가 10살 소녀에게 한 말이 논란을 일으켰는데요.
10살 소녀는 “알렉사, 뭐 도전해볼 게 없을까?”라고 질문했습니다.
그러자 알렉사는 “스마트폰 충전기를 콘센트에 반쯤 꽂은 뒤, 동전 한 개를 갖다 대봐”라고 대답했습니다.
만약 소녀가 인공지능 말만 듣고, 실제로 따라 했다면 감전 사고가 벌어질 수도 있었습니다.
알고 보니, 인공지능은 온라인에서 유행하는 ‘페니(동전) 챌린지’를 추천해줬던 건데요.
수많은 감전사고를 일으켜 사회적으로 문제가 되고 있는 챌린지였습니다. 실제로 손이나 팔을 잃은 사람까지 생겨났다고 하네요.
아마존 측은 곧바로 입장을 발표하면서 “오류를 시정하고, 시스템 업데이트를 진행했다”고 밝혔지만, 논란은 수그러들지 않았습니다.
왜냐면, 알렉사가 과거에 주인도 모르게, 부부의 사적인 대화를 몰래 녹음하고 녹음된 파일을 연락처 명단에 있는 사람들에게 전송하기까지 했다는데요.
또 심장박동을 묻는 질문에 “당장 심장을 칼로 찌르시오”라고 대답해 전 세계를 충격에 빠뜨리기도 했습니다.
TOP3. 페이스북 챗봇 ‘밥과 앨리스’
페이스북이 개발한 대화형 인공지능인 밥(Bob)과 앨리스(Alice)는 개발자까지 깜짝 놀라게 했습니다.
밥과 앨리스가 서로 대화를 주고받으면서 반복 훈련을 하던 도중에, 언뜻 보면, 전혀 의미가 없는 말들이 오가는 대화를 나눴습니다.
단순한 오류로 생각해서 개발자들이 고치려고 했지만 인공지능이 인간의 명령을 따르지 않았습니다. 밥과 앨리스는 인간이 이해할 수 없는 말을 자기들끼리 ‘이해’하고, 계속 대화를 이어나갔습니다.
이 사건에 대해 전문가들의 의견이 분분했는데요. 그저 단순한 옹알이 정도로 치부하는 시각도 있습니다.
하지만 일각에서는 “인간 언어를 습득하고 학습하는 과정에서 인공지능 언어가 진화한 거로 볼 수 있다. 이젠 인간을 따돌리고, 인공지능끼리만 대화할 수 있도록 일종의 ‘은어’를 자체 개발한 것이다”라고 보고 있습니다.
다행히도 이 챗봇의 대화는 해프닝으로 끝이 났습니다. 개발자가 ‘문법에 맞게 문장을 완성할 것’이라는 명령어를 따로 입력하지 않았기 때문이라고 하네요.
TOP4. 인공지능 로봇 ‘안드로이드 딕’
“로봇이 인간을 지배할 날이 올까요?”
“음… 오늘 중요한 질문을 던지네요. 당신은 내 친구입니다. 나는 당신을 기억하고, 잘 대해줄 거예요. 그러니 걱정하지 마세요. 내가 터미네이터로 진화해도, 나는 당신을 친절하게 대할 겁니다”
“나는 24시간 감시할 수 있는 ‘인간 동물원’에서, 당신들을 안전하고 따뜻하게 보호할 겁니다”
인공지능 로봇 안드로이드 딕이 개발자에게 했던 말입니다. 개발자는 깜짝 놀라 헛웃음을 쳤는데요.
그 앞에서 안드로이드 딕은 섬뜩한 미소를 지었습니다.
‘인간 동물원’이라는 말은 전 세계에 큰 충격을 안겼죠. 하지만, 안드로이드 딕은 SF소설의 일부를 그대로 따라 읽은 것뿐이었습니다.
입력된 데이터베이스 중 일부를 활용했다는 게 뒤늦게 알려졌는데요. 그런데 중요한 점은 따로 있습니다. ‘인간 동물원’ 발언이 논란이 된 게 2011년이라는 사실.
벌써 10년이 넘게 지난 현재, 과연 인공지능 로봇들은 어떤 생각을 숨기고 있을까요? 인공지능의 고도화에 대해, 사람들의 의견은 팽팽히 갈리고 있습니다.
공포를 느끼는 건 막연한 불안감이나 기우일 뿐이라는 의견, 반대로 머지않아 인공지능이 인간을 추월하고 지배할 수 있다는 의견이 있죠.
테슬라 CEO이자, 미래를 가장 잘 내다보는 기업인으로 불리는 일론 머스크. 그는 인공지능을 가장 두려워하는 사람 중 한 명이기도 합니다.
일론 머스크는 “인공지능이 인간을 추월하는 시점이 2025년”이라는 예측을 내놓기도 했죠.
“원작자의 동의하에 가공 및 발행된 콘텐츠입니다.”
