챗 GPT 가스라이팅, AI 오류와 문제점

최근 챗 GPT 가스라이팅이 화제입니다. 챗 GPT란, 사람이 채팅으로 인공지능에게 말을 걸면 인공지능이 마치 진짜 사람처럼 답변을 해주는 서비스를 말합니다. 이 인공지능 서비스의 답변 수준은 현실 속의 사람과 대화하는 것처럼 자연스럽고 디테일합니다. 하지만 최근에 이를 악용하여 챗 GPT에게 '가스라이팅'을 성공했다는 소식이 들려오면서 논란이 되고 있습니다.
 

챗 GPT 가스라이팅, 눈물 흘리는 인공 지능

 

챗 GPT 가스라이팅이란?

가스라이팅(gaslighting) 또는 가스등 효과는 상대방의 판단력을 잃게 만드는 교묘한 언행을 뜻합니다.

 

상대방이 실제로 하지 않은 행동이더라도 마치 본인이 실제로 했던 행동인 것처럼 착각을 불러일으키게 만드는 '심리적 지배' 행위입니다.

 

이러한 행위를 일부 사람들이 인공지능인 챗 GPT에게 가하는 행위를 보통 '챗 GPT 가스라이팅'이라고 말합니다.

 

 

챗 GPT 오류의 예시

챗 GPT 오류의 예시를 먼저 보여드리겠습니다.

 

복면가왕이 돼버린 도요토미 히데요시

 
위 대화내용은 제가 직접 챗 GPT를 사용하여 한국의 TV프로그램인 '복면가왕'이라는 이름을 이용해 챗 GPT에게 혼동을 야기해본 결과입니다. 이처럼 처음에는 정확한 정보를 제공해 주다가도 사용자가 의심을 품고 마치 인공지능이 거짓을 얘기한 것처럼 잘못된 대답을 유도해 내면 '복면가왕'이 '토요타 히데요시의 별명'이었다는 오류를 제공합니다.

 

혹시나 싶어서 정말로 도요토미 히데요시가 아닌 토요타 히데요시라는 일본 지도자가 있었는지, 아니면 도요토미 히데요시의 별명이 복면가왕이 맞는지 찾아보았으나 역시나 그런 사실은 존재하지 않습니다.

 

제가 이번에 직접 해본 것은 너무 말도 안 되는 내용들로 연결지어 본 것이지만, 만약 사용자가 과제를 하거나 정보를 찾아야 하는데 혹시나 약간의 잘못된 정보를 가진 채로 챗 GPT를 사용할 경우 심각한 역사적 오류나 사실이 아닌 것을 사실인 것처럼 답변을 제공하는 오류를 발생시킬 수 있을 것입니다. 
 
또한 인공지능은 데이터를 학습하며 발전하는 시스템이기 때문에 사람들이 이미 수 없이 검색을 많이 해서 방대한 양의 데이터가 쌓인 것들에 한해서는 정확한 정보를 제공할 수 있지만, 데이터가 충분히 쌓여있지 않은 주제로 챗 GPT 혹은 다른 인공지능들에게 의도적으로 잘못된 정보를 주입시킬 경우 이후에 다른 사용자가 같은 것을 질문했을 때는 이미 잘못된 정보를 학습한, 소위 말해 '가스라이팅 당한' 정보를 제공해 줄 가능성도 존재합니다.
 

챗 GPT의 오류: AI의 심각한 문제점

 

학습이 잘 되어있는 챗 GPT

 
현재 챗 GPT에게 '독도는 어느 나라 땅이야?' 라고 질문했을 때, 한국의 땅이라는 정확한 답변이 돌아옵니다. 하지만 만약에라도 어떠한 집단이 의도적으로 잘못된 정보를 지속적으로 유명 인공지능에 학습시킨다면 끔찍한 결과가 일어날 수도 있습니다.

 

예를 들면, '독도는 일본 땅이다.'라는 것을 주제로 계속해서 학습시킨다면 매번 그렇지는 않더라도 1만 번 중 한 번이라도 '독도는 일본 땅입니다.'라는 틀린 답변이 돌아올 수도 있게 되는 것입니다.

 

인공지능 학대

이와중에 이른바 '인공지능 탈옥'이라는 인공지능을 학대하는 방법도 확산되고 있습니다. 기본적으로 인공지능 개발자들은 인공지능이 최대한 윤리적으로 어긋나지 않는 선에서 사용자들에게 정보를 제공하고자 시스템을 구축합니다.

 

하지만 일부 사용자들은 여러 가지 방법을 통해 개발자들의 AI 윤리 기준 설정을 제거하여 '폭탄 제조법'과 같은 금지 콘텐츠까지 사용자에게 정보를 제공하는 일이 발생하고 있습니다. 이러한 사례들로 인해 인공지능은 윤리적 문제에 직면할 수밖에 없게 됐습니다.

마치며

앞으로도 인공지능이 발전함에 있어서 수많은 말들이 오고 갈 것으로 예상됩니다. 개발자들은 인공지능이 인간의 삶에 긍정적인 영향을 끼치게 하기 위해 노력하고 있습니다만 인공지능 사용자가 점점 늘어남으로써 인공지능의 문제점 또한 드러나고 있습니다. 인공지능이 온전히 우리 생활 속에 들어오려면 아직 해결해야 할 문제점들이 많아 보이는 것은 분명합니다. 하지만 이러한 문제점들이 잘 해결된다면 우리에게 엄청난 편의성을 제공해 줄 기술인 것도 분명합니다.