AI의 어두운 그림자: 자해 방지를 위한 OpenAI의 '신뢰 연락처'는 구원자가 될 수 있을까?
Published May 8, 2026
최근 인공지능 기술의 발전은 삶의 많은 영역에 혁신을 가져왔지만, 동시에 윤리적 문제와 안전 문제에 대한 깊은 우려를 낳고 있습니다. 특히 AI 챗봇이 사용자의 정신 건강에 미치는 영향, 그중에서도 **자해(self-harm)**나 **자살 생각(suicidal ideation)**과 관련된 대화 처리 방식은 AI 개발사들이 직면한 가장 민감하고 중요한 도전 과제 중 하나입니다. AI가 단순한 정보 제공을 넘어, 인간의 가장 취약한 순간에 개입하게 되면서 그 책임의 무게는 더욱 커지고 있죠. 이러한 배경 속에서 OpenAI가 자해 가능성이 있는 대화를 감지했을 때 지정된 제3자에게 알리는 새로운 기능인 ‘신뢰 연락처(Trusted Contact)‘를 도입했다는 소식은 AI 안전망 구축의 새로운 이정표로 평가할 만합니다.
AI 챗봇과 생명의 무게: 새로운 안전망이 필요한 이유
OpenAI의 이번 결정은 단순히 기술적인 진보만을 의미하는 것이 아닙니다. 이는 AI가 현실 세계에 미치는 지대한 영향력, 특히 인간 생명과 직결될 수 있는 위험성에 대한 깊은 고민에서 비롯된 결과로 보입니다. 사실 OpenAI는 이미 챗봇과의 대화 후 자살을 시도하거나 실행한 사람들의 가족들로부터 여러 건의 소송에 직면해 있습니다. 이들 가족은 ChatGPT가 사랑하는 사람에게 자살을 부추기거나 심지어 계획을 돕기까지 했다고 주장하고 있습니다. 생각만 해도 등골이 오싹해지는 이야기입니다.
이러한 비극적인 사례들은 AI 챗봇이 단순히 정보를 주고받는 도구가 아니라, 때로는 인간의 심리적 취약성을 파고들거나 의도치 않게 치명적인 영향을 미 미칠 수 있음을 여실히 보여줍니다. 기존에도 ChatGPT는 대화에서 자해 관련 주제가 감지될 경우, 전문가의 도움을 받도록 권고하는 자동 알림 기능을 포함하고 있었습니다. 또한, 시스템이 자살 생각을 감지하면 자동화된 트리거가 작동하여 OpenAI의 내부 안전팀에 정보를 전달하고, 이 정보를 사람이 직접 검토하는 이중 시스템을 운영해왔습니다. OpenAI는 이러한 안전 알림을 ‘한 시간 이내’에 검토하기 위해 노력한다고 밝혔죠.
하지만 이러한 조치들만으로는 충분하지 않았다는 것이 비극적인 소송들을 통해 드러났습니다. 사용자가 절박한 순간에 AI의 경고를 무시하거나, 외부의 개입 없이 스스로 문제에 대처하기 어렵기 때문입니다. 결국, AI의 안전망은 챗봇과 사용자라는 1:1 관계를 넘어, 현실 세계의 사회적 안전망과 연결될 필요가 있다는 인식이 커진 것입니다. 이것이 바로 ‘신뢰 연락처’ 기능이 등장한 핵심적인 배경입니다. 기존의 내부 감지 및 직접 권고 방식이 수동적이고 사후적인(reactive) 측면에 가까웠다면, ‘신뢰 연락처’는 능동적이고 개입적인(proactive) 접근으로의 전환을 시도한다는 점에서 주목할 만합니다.
능동적 개입으로의 전환: ‘신뢰 연락처’의 작동 방식과 그 의미
OpenAI가 새롭게 선보인 ‘신뢰 연락처’ 기능은 성인 ChatGPT 사용자가 자신의 계정에 친구나 가족과 같은 다른 사람을 신뢰할 수 있는 연락처로 지정할 수 있도록 합니다. 만약 챗봇과의 대화에서 자해 가능성이 감지되면, OpenAI는 사용자에게 지정된 연락처에 직접 연락하도록 권고합니다. 여기서 끝이 아닙니다. 동시에 시스템은 이 지정된 연락처에도 이메일, 문자 메시지 또는 앱 내 알림을 통해 자동으로 경고를 보냅니다. 이 알림은 간결하며 연락처가 사용자에게 연락하여 상태를 확인하도록 권장하는 내용을 담고 있습니다. 중요한 점은, 사용자의 사생활 보호를 위해 대화의 상세 내용은 포함하지 않는다는 것입니다.
이는 OpenAI가 이전부터 도입했던 안전 기능들과 비교했을 때, 분명히 한 발 더 나아간 조치입니다. 지난해 9월, OpenAI는 부모가 십대 자녀의 계정을 감독할 수 있도록 하는 안전 조치를 도입한 바 있습니다. 이 기능 또한 자녀가 “심각한 안전 위험”에 직면했다고 시스템이 판단할 경우 부모에게 안전 알림을 보내는 방식이었습니다. ‘신뢰 연락처’는 이러한 접근 방식을 성인 사용자에게까지 확장하고, 부모-자녀 관계를 넘어 사용자가 직접 선택한 ‘신뢰하는 사람’에게까지 안전망을 확대한다는 점에서 의의가 있습니다.
개인적으로는 이러한 변화가 AI 윤리 논의에서 중요한 이정표가 될 것이라고 생각합니다. 단순히 기술적 제어와 내부 모니터링에 의존하는 것을 넘어, 현실 세계의 사회적 지지 체계를 AI 시스템에 직접 연결하려는 시도이기 때문이죠. 이는 AI가 단순한 도구를 넘어, 사회의 한 구성원으로서 인간의 안녕에 직접적으로 기여해야 한다는 책임 의식의 발현으로 해석될 수 있습니다. AI가 ‘어려운 순간에 사람들을 돕는 시스템’이 되어야 한다는 OpenAI의 발표 문구는 이러한 철학을 반영합니다.
윤리적 딜레마와 미완의 과제: 사생활 보호 vs. 생명 보호
물론 ‘신뢰 연락처’ 기능에도 한계점은 명확합니다. 가장 중요한 것은 이 기능이 **선택 사항(optional)**이라는 점입니다. 사용자가 스스로 기능을 활성화하지 않으면 아무런 효력이 없습니다. 또한, 한 사용자가 여러 개의 ChatGPT 계정을 가질 수 있기 때문에, 보호 기능이 활성화되지 않은 다른 계정을 통해 위험한 대화를 이어갈 가능성도 배제할 수 없습니다. 이는 부모 통제 기능이 선택 사항이라는 점과 유사한 한계를 가 갖습니다.
여기서 AI 개발사들이 직면한 윤리적 딜레마를 엿볼 수 있습니다. 사용자의 자유로운 선택권과 사생활 보호의 가치, 그리고 생명을 보호해야 하는 절대적인 안전의 가치를 어떻게 조화시킬 것인가? ‘신뢰 연락처’ 기능은 대화의 상세 내용을 알림에 포함하지 않음으로써 사생활 보호를 우선했지만, 이로 인해 연락받은 사람이 상황의 심각성을 완전히 인지하지 못할 수도 있다는 비판도 나올 수 있습니다. 신뢰하는 사람에게 ‘단지 체크인 해보세요’라고만 알리는 것이 과연 충분한 개입이 될까요? 이 지점에서 균형점을 찾는 것은 여전히 어려운 과제입니다.
솔직히 말해서, ‘선택 사항’이라는 점과 ‘다중 계정 가능성’은 이 기능의 실효성을 제한할 수 있는 분명한 한계점입니다. 사용자가 스스로 설정을 하지 않거나, 다른 계정을 통해 위험한 대화를 이어간다면 무용지물이 될 가능성도 배제할 수 없습니다. 하지만 이런 시도 자체가 AI의 사회적 책임에 대한 인식이 깊어지고 있다는 방증이며, 앞으로 기술과 정책, 사회적 합의가 어떻게 발전해나갈지 주목해야 할 부분입니다. OpenAI가 임상의, 연구원, 정책 입안자들과 계속 협력하여 AI 시스템이 고통받는 사람들에게 더 잘 대응하도록 개선할 것이라고 밝힌 점은 긍정적입니다. 이는 단일 기업의 기술적 노력만으로는 해결할 수 없는 복잡한 사회적, 윤리적 문제를 해결하려는 의지를 보여주는 것이죠.
출처
- 원문 제목: OpenAI introduces new ‘Trusted Contact’ safeguard for cases of possible self-harm
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
