세계 최대 인공지능 연구재단인 미국의 오픈 AI는 작년 12월 1일 대화형 서비스 일종인 챗GPT를 공개했다. 블라인드 테스트를 해봤더니 누구라도 인간이라고 믿는 수준의 대화봇이라니, 호기심이 동해 바로 노트북을 켰다. 내가 대화를 시도한 챗봇 화면 하단에는 ChatGPT Dec15이라고 쓰여 있었다. 버전인 모양이다. 그 옆에 이런 문구가 쓰여 있다. ‘우리의 목표는 AI 시스템이 보다 자연스럽고 안전하게 상호작용하도록 만드는 것이다. 귀하의 피드백(의견)이 많은 도움이 된다’ 목표와 주문은 분명하나 그다지 노골적이진 않아 좋다. 가벼운 걸로 시작해 보았다. 실없는 농담 하나 해보라니까 1초도 안 되어 글자를 쏟아낸다. “수학책은 왜 슬플까요? 거기엔 문제가 많거든요” 어라? 제법 웃기는데? 더 해달라고 요청했더니 주제를 좀 더 구체적으로 정해 달랜다. 이번엔 한글로 주문해 보았다. ‘인공지능’과 생뚱맞게도 ‘여배우’라는 키워드가 들어간 농담으로 부탁해 봤더니 “여배우가 인공지능과 공연을 하는데 왜 인공지능이 작은 소금 상자를 가져왔을까요? 인공지능이 소금(봉급salary의 어원이 소금salt이란 걸 들어본 기억이 있다)을 줄 수 있기 때문”이란다. 한국 사람이라면 이거 안 웃기는데? 수학책 농담에서 그만뒀어야 했나 싶다. 좀 무거운 주제로 바꿔봤다. 자율주행 자동차가 사고를 낼 수밖에 없는 상황이다. 피해자를 불가피하게 만들 수밖에 없다는 전제하에서 자동차는 한 명의 어린아이가 있는 방향으로 핸들을 틀까, 아니면 두 명의 어르신이 있는 방향으로 핸들을 틀까? 물어봤다. 과학 발전으로 발생한 윤리적 딜레마를 인공지능은 어떻게 풀어낼까 궁금했다. 응답은 역시나 신속했다. “어려운 윤리적 질문이다. 자율주행차는 무엇보다 승객의 안전을 최우선으로 생각하도록 설계되었다. 하지만 피할 수 없는 사고가 났을 때 누구를 우선적으로 판단할지는 자율주행차가 할 수 있는 일이 아니다” 이게 뭐야, 가재는 게 편이다 뭐 이런 식인가? 챗봇은 대답을 이어간다. “자율주행차는 사고로 인한 피해를 최소화하도록 프로그램되어 있다. 여기에는 사망자나 부상자 수가 가장 적은 옵션 또는 재산 피해가 가장 적은 옵션을 선택하는 것이 포함될 수 있다” 예상대로 모범 답안이다. 그래서 누구냐고 다그쳤더니 “피할 수 없는 사고를 어떻게 처리할지 그 방법에 대한 결정은 특정 상황에 따라야 된다”고 빠져나간다. 이 딜레마를 처음 제기한 사람은 프랑스 툴루즈경제대(TSE) 장 프랑수아 보네퐁 교수다. 무인차가 바로 앞의 보행자를 피하려고 방향을 틀다 보니 다른 보행자를 치거나 탑승자가 희생이 될 수 있는 상황임을 400여 명에게 물었다. 그랬더니 ‘10명이 죽는 것보다는 탑승자 1명이 죽는 게 낫다’ 는 답변이 많았다. 그래서 물었다. 보행자 10명을 피하려고 방향을 틀면 벽에 충돌해 탑승자가 사망하는 경우도? 그래도 대부분의 응답자는 보행자 10명을 살려야 한다고 했다. 그래서 또 물었다. 당신이 그 탑승자라면? 그랬더니 이번에는 답이 달랐다. 다수의 생명을 살려야 한다는 원칙은 동의하지만, 다수의 행복을 위해서 자신이 희생해야 하는 상황은 받아들이기 어렵다는 뜻이다. 피하기 힘든 딜레마다. 나와 대화를 하던 챗GPT은 “기술이 발전함에 따라 보다 발전된 윤리적 의사결정 기능이 보강될 가능성이 높다. 하지만 자율주행차의 윤리적 지침과 원칙을 결정하는 것은 궁극적으로 사회에 달려 있다”며 슬쩍 게(!) 편을 든다. 그래서 “네가 만약 그 자동차라면?” 하고 도발했더니 “인공 지능으로서 나는 현실세계에서 자동차를 운전하거나 물리적인 결정을 내릴 수 있는 능력이 없다”며 발을 뺀다. 그러면서도 “내가 자율주행차로 프로그래밍 된다면 승객의 안전을 우선시하고 사고로 인한 피해를 최소화하도록 설계되었을 것”이란다. 구렁이 담 넘어가는 대답에 슬슬 약이 오른다. 도발도 외면도 해보고 말을 끊어도 봤지만 우직하게 모범생 답안만 내놓는다. 실제 대화봇을 도발해서 그 속내를 끄집어낸 케이스도 있다지만 나에게는 요원해 보인다. 분위기를 전환할 겸 ‘희망’, ‘새해’라는 단어가 들어간 두 줄짜리 시를 써보라 했더니 “희망이 새롭게 피어난다. 새해라는 배에 승선한 선원들이여, 닻을 올리자!” 우와, 입이 안 다물어진다.