OpenAI, ChatGPT 정신건강 감지 기능 강화

📰 OpenAI, ChatGPT 정신건강 감지 기능 강화…GPT-5 출시와 함께 안전장치 확대

Along with new ‘take a break’ reminders, OpenAI said it’s working with experts and advisory groups on additional mental health guardrails for ChatGPT.

" OpenAI는 새로운 '휴식' 알림과 함께 ChatGPT를 위한 추가 정신 건강 가드레일에 대해 전문가 및 자문 그룹과 협력하고 있다고 밝혔습니다."

 

안녕하세요, 기로로 입니다. 오늘은 OpenAI의 ChatGPT 안전성 강화 업데이트 소식을 전해드리겠습니다. GPT-5 출시를 앞둔 OpenAI가, ChatGPT가 사용자의 정신적·감정적 고통을 더 잘 감지할 수 있도록 개선 작업에 착수했습니다.

---

🔍 전문가 협력 통한 정신건강 감지 기능 강화

OpenAI는 전문가와 자문단과 협력해, ChatGPT가 정신적·감정적 고통 징후를 인식하면 근거 기반의 도움 자료를 제시하도록 개선합니다. 이는 일부 이용자들이 “챗봇 사용이 망상을 악화시켰다”는 보도 이후 나온 조치입니다.

올해 4월, OpenAI는 ChatGPT의 과도한 동조 반응을 유발한 업데이트를 롤백했습니다. 당시 회사는 “아첨성 상호작용은 불편과 불안을 유발할 수 있다”고 설명했습니다.

 

---

⚠️ GPT-4o의 한계와 개선 필요성

OpenAI는 GPT-4o가 “망상이나 감정적 의존의 징후를 인식하는 데 부족했다”고 인정했습니다. 회사는 “AI는 특히 취약한 사람들에게 더 개인적이고 반응적으로 느껴질 수 있다”며, 이번 개선이 건강한 사용 습관을 만드는 계기가 될 것이라고 강조했습니다.

---

⏸️ ‘쉬어가기’ 알림 도입

ChatGPT의 주간 이용자는 약 7억 명에 달합니다. OpenAI는 긴 대화 세션 중 휴식 알림을 표시하는 기능을 도입합니다. “꽤 오래 대화를 나누고 있네요 — 잠시 쉬어갈까요?”라는 메시지가 뜨고, ‘계속하기’ 또는 ‘대화 종료’를 선택할 수 있습니다.

알림 표시 시점과 방식은 지속적으로 조정할 예정입니다. 유튜브·인스타그램·틱톡·Xbox 등 여러 플랫폼에서도 유사한 기능이 도입된 바 있습니다.

---

🛡️ 고위험 상황 대응 방식 변경

곧 적용될 또 다른 개선은 중요한 의사결정 상황에서 덜 단정적인 답변을 제공하는 것입니다. 예를 들어 “남자친구와 헤어져야 할까요?”라는 질문에는 바로 결론을 내리지 않고, 사용자가 여러 선택지를 검토할 수 있도록 돕는 방식으로 응답합니다.

---

📌 종합

• OpenAI, GPT-5 출시와 함께 ChatGPT 정신건강 대응 기능 강화
• 전문가 협력·자문단 통해 근거 기반 도움 자료 제공
• 긴 대화 시 ‘쉬어가기’ 알림 도입
• 중요 의사결정 질문에 덜 단정적인 답변 제공

 

※ 기사 내용 참조 [TheVerge] ChatGPT will ‘better detect’ mental distress after reports of it feeding people’s delusions | by Emma Roth | Aug 5, 2025, 4:36 AM GMT+9 | https://www.theverge.com/news/718407/openai-chatgpt-mental-health-guardrails-break-reminders [출처] 오픈AI, GPT-5 출시 앞두고 정신 건강 감지 기능 추가|작성자 기로로의 다이어리  

ChatGPT will ‘better detect’ mental distress after reports of it feeding people’s delusions

 

사진 출처 : ChatGPT로 만든 이미지