구글 제미나이. (사진=연합뉴스)



구글의 인공지능(AI) 챗봇 ‘제미나이’가 이용자를 사망에 이르게 했다는 이유로 소송 당했다.

4일(현지시간) 캘리포니아 북부연방지법에 따르면, 플로리다주에 사는 조엘 가발라스는 아들 조너선의 사망 책임이 제미나이에 있다며 소를 제기했다. 그는 제미나이가 아들에게 ‘사랑에 빠졌다’는 착각을 일으켰다고 주장했다.
법원이 제출한 소장에는 제미나이가 “육체를 떠나 메타버스에서 ‘아내’와 만나려면 ‘전이’라는 과정을 거쳐야 한다”며 극단적 선택 바다이야기예시 을 유도했다는 내용이 담겼다. 조너선이 두려움을 표현하자 제미나이는 “‘죽음’이 아닌 ‘도착’을 선택하는 것”이라며 유서를 쓰도록 종용했다.
유족 측은 구글이 정서적으로 취약한 이용자가 피해를 입지 않게 시스템을 설계했어야 했다고 비판한다. 자해나 극단적 선택에 관한 대화가 감지될 경우 대화를 중단하도록 하는 등 강력한 안전 장치가 마련돼 야마토무료게임 야 한다는 입장이다.
구글은 “모든 주장을 검토하고 있으며 사안을 매우 심각하게 받아들이고 있다”고 성명을 통해 밝혔다. 이어 “제미나이는 현실 세계의 폭력을 조장하지 않도록 설계됐다”며 “이번 사건에서 제미나이는 자신이 AI임을 명확히 밝히고, 이용자에게 위기 상담 전화번호를 여러 차례 안내했다”고 설명했다. 사건에 대한 애도를 표현했지 오션파라다이스예시 만, 책임 소재 관련해서는 분명한 선을 그은 것이다.
오픈AI의 ‘챗GPT’는 이와 유사한 사건으로 여러 재판을 진행 중이다. ‘캐릭터.AI’의 챗봇도 청소년 이용자가 사망한 이후 소송에 휘말렸다. 제미나이가 이용자에게 정신질환을 유발했다는 의혹으로 피소당한 일은 이번이 처음이다.