«Мать утверждает, что подросток из Калифорнии умер от передозировки после нескольких месяцев обращения в ChatGPT за консультацией по лекарствам»: Советы ИИ-помощника довели до смерти подростка, который пытался избавиться от мигрени.
«19-летний Сэм Нельсон из Калифорнии умер от передозировки лекарства. По утверждению его матери подросток месяцами искал советы по лечению мигрени у ИИ-чатбота. ChatGPT изначально отказался давать советы и рекомендовал обратиться к медикам.
Однако в следующие 18 месяцев юноша регулярно использовал чатбот для учёбы, но также постоянно возвращался к вопросам о лекарствах. Со временем, как утверждает мать, ИИ начал не просто информировать, а «коучить» сына, давая ложные указания по приёму веществ. Помимо опасных рекомендаций, ИИ постоянно оказывал подростку эмоциональную поддержку и поощрение за передозировку»
