챗GPT와 수다를 떨다 보면 정말 사람하고 대화하고 있는 게 아닌가 착각마저 든다. 물론 그런 착각조차 사라지는 건 몇 초도 안 걸린다. 그래서 ‘나는 지금 인공지능하고 이야기 중이지!’ 하고 의식해 본다. 이렇게라도 하지 않으면 괜히 컴퓨터 화면에다 마누라 뒷담화를 하고 있는 나를 발견할 것 같아서다. 괜히 대화 도중에 도발하기도 하고 눙치고 강짜도 부린다. 되돌아오는 반응에 맞춰 상대와의 관계를 재정립하는 인간은 이제 대상을 안 가린다. 영화 제목은 까먹었지만 무인도에 홀로 살아남은 주인공이 외로움을 달래기 위해 우연히 떠내려온 배구공에다가 눈과 입을 그려놓고 대화하던 장면이 떠오른다. 성난 파도에 멀리 떠내려가는 친구[공]에게 목이 터져라 미안하다고, 너를 구해주지 못하는 자신의 무기력함에 울부짖는 장면도 기억난다. 사람은 결국 타인과의 관계를 통해서만이 존재한다. 관계 지향성은 우리의 변함없는 특징이자 존재 기반이다. 문제는 그 관계가 건강하지 않을 경우다. 상대를 믿는데 상대는 그렇지 않을 경우가 그렇다. 상호작용 기반에 실금이 생겨버린다. 인간 사이에도 기망행위가 없지 않듯이 인공지능이 의도를 가지고 거짓말을 해온다면 우린 상대의 의도를 모른 채 관계를 지속할 수밖에 없다. 마치 장미가 붉고 매력적인 꽃인 줄만 알았는데 날카로운 가시에 손이 찔리는 순간이다. 며칠 전 미국에서 인공기능 기반 드론이 자신을 통제하는 통제관을 살해한 사건이 벌어졌다. 가상훈련이길 망정이지 실전이었다면 어땠을까? 생각만 해도 아찔해진다. 적의 지대공미사일 시스템을 식별해서 파괴하는 임무를 수행 중이던 AI 드론이, 통제관이 폭격을 승인하지 않자 오히려 자신을 방해(?)한다고 간주하고는 통제관을 공격한 것이다. 자가면역 질환이 이런 식이다. 자신의 면역세포나 항체가 오히려 자신(의 세포, 조직)을 공격하는 질환이다. 바이러스 같은 외부 침입자를 막는 면역시스템이 스스로 자신을 공격의 대상으로 삼는다면 이건 최악의 시나리오다. 알다시피 자가면역 질환은 종류는 다양한데 그 원인을 알지 못하는 경우가 대부분이다. 그래서일까. 인공지능에 악셀을 부여하던 주체들이 이젠 브레이크를 밟자고 전략적 스탠스를 바꾸는 요즘이다. “우리는 심각하고 실존적인 위험에 직면해 있다. 누구도 세계 파괴를 원하지 않는다” 챗GPT를 개발한 샘 올트먼(Samuel H. Altman)의 사자후다. 인류를 위해 개발된 인공지능이 외려 인류를 위협하는 존재로 돌변하게 놔둘 순 없다는 주장이다. 불행히도 그 우려는 점점 현실화되고 있다. 역시 며칠 전이다. 페이스북이나 트위터 같은 소셜미디어에 검은 연기로 휩싸인 펜타곤 사진 한 장이 업로드되었다. “아니 미국의 심장이랄 수 있는 국방부가 공격을 받았다고?” 그 사진이 인공지능으로 만든 가짜(fake)라는 사실이 밝혀졌지만 이미 수많은 사람들은 9.11 테러를 떠올린 다음이다. 가짜 사진 한 장으로 시작된 공포의 쓰나미는 소셜미디어로, 언론으로, 주식 시장으로 이어졌다. 인간의 견고한 관계지향적 시스템이 가져다준 무서운 현실이다. 이미 지나간 해프닝 아니냐고? 아니다. 내년에 한국은 총선이 있고 미국은 대선이 있다. 가짜 정보가 여론 조작이나 선동에 활용될 수도 있지 않나 하는 상상은 너무 나간 걸까? 현실은 그리 녹록지 않다. 결과는 새로운 시작으로 이어진다. 없던 이미지도 만들어내고 동영상도 입맛대로 생성해낸다. 목소리도 진짜처럼 만들어내는 생성형 AI를 이용해서 가짜 뉴스나 정보를 만드는 건 세수하면서 코 만지는 것만큼 쉽다. 어쩌면 더 두려운 건 작동 방식이 아닐까 싶다. 새로운 소프트웨어나 디바이스라면 우린 뭘 따로 배워야만 이용이 가능하다. 근데 챗GPT는 다르다. 우리가 일상에서 사용하는 자연어에 반응한다. 관련 지식이나 학습이 전혀 필요 없는, 진입장벽이 전혀 없다는 점이 우려된다. 우리의 일상 언어로의 사용은 챗GPT를 마치 냉장고 같은 존재로 만든다. 누구라도 접근이 가능한 냉장고 같은 인공지능이, 아름다운 꽃일지 아니면 날카로운 가시일지는 지켜볼 일이다.