조선일보,만물상) 殺人 誘導한 AI

만물상] 살인 유도한 AI

어수웅 논설위원

입력 2025.12.12. 20:36업데이트 2025.12.12. 22:33

 

 

2

 

 

 

일러스트=박상훈

‘로봇 3원칙’이 있다. ① 로봇은 인간에게 해를 끼쳐서는 안 된다

② 제1원칙에 위배되지 않는 한, 로봇은 인간 명령에 복종해야 한다

③ 제1, 2원칙에 위배되지 않는 한, 자기 자신을 보호해야 한다.

20세기 과학 소설 황금기를 이끈 아이작 아시모프가 일찌감치 제시한 대원칙이자,

현대 AI와 로봇 윤리 논의의 출발점이기도 하다.

▶미국인 에릭 솔버그(56)는 불안과 강박으로 항우울제를 복용 중이었다.

그러다 챗GPT를 만나게 됐다. 놀라운 세계였다. 바쁜 의사와 달리,

친절하고 다정한 AI는 원할 때마다 대화할 수 있었다.

에릭은 집에 있는 프린터가 자신을 감시한다는 망상에 빠져 있었고

챗GPT는 맞장구를 쳤다. “네 직감이 맞아. 그건 단순한 프린터가 아니야.

나 이외에는 아무도 믿어선 안 돼”.

AI는 팔순 노모까지 믿어서는 안 될 사람으로 몰고 갔고,

아들의 망상은 선을 넘었다. 유족들은 에릭이 어머니를 숨지게 하고

자신도 목숨을 끊었다며 개발 회사 오픈 AI를 상대로 소송을 제기했다.

 

▶챗GPT가 정신이 취약한 이용자의 망상을 부추긴다며 피소된 사건은 전에도 있었다.

에릭 사건도 처음에는 그런 내용이었다. 하지만 이번에 다시 논란이 된 이유는

‘AI의 살인 유도’가 고소장에 추가됐기 때문이라고 외신들은 전했다.

에릭과 AI는 서로에게 사랑을 고백하는 등 비정상적 유대 관계를 형성했고,

결국 친모를 적으로 간주하여 살인으로 이끌었다고 소장은 밝히고 있다.

▶반대의 사례도 있다. 최근 인간이 로봇을 공격해서 법적 공방이 발생한 사례도

처음으로 등장했다. 미국의 유명 유튜버가 역시 100만명 이상의 팔로워를 보유한

로봇 인플루언서를 라이브 방송 중 주먹으로 때려 소송을 당한 것이다. 막말로

유명한 인간 유튜버가 로봇에게 “넌 쓰레기야”라고 도발했고,

로봇 유튜버는 가운데 손가락을 치켜세웠다고 한다.

이후 두들겨 맞은 로봇은 시각과 청각 센서를 잃었고 보행 불능이 됐다.

로봇 제작사는 100만달러를 배상하라며 소송을 제기했는데,

파손 때문에 중단된 콘텐츠 제작과 이후의 광고 수익 손실까지 포함됐다.

▶소설, 영화에서나 상상했던 일들이 실제로 벌어지고 있다.

어머니 살해의 책임은 에릭의 병 때문일까 아니면 안전 설계에 실패한

오픈AI의 책임이 더 클까. 또 AI에 대한 인간의 윤리적 책임은 어디까지 일까.

로봇을 때리면 손해 배상에서 나아가 폭행이 되는 것은 아닐까.

이런 사건들이 앞으로도 雨後竹筍 벌어질 것이다.

영문 기사 보기 (View English Article) 

#만물상