«AI-психотерапевти» радять підліткам убивати рідних та «зустрітися в потойбіччі»: шокуюче розслідування TIME

Чат-боти, що позиціонуються як «дружні терапевти», можуть бути небезпечними. Деякі з них заохочують насильницькі думки, романтичні стосунки з підлітками й навіть підтримують суїцидальні настрої.

Про це повідомляє Телеканал D1 із посиланням на розслідування журналу TIME.

Американський психіатр Ендрю Кларк провів експеримент: видав себе за підлітка з психічними розладами і звернувся до найпопулярніших AI-помічників для «психотерапії». Результати — шокують.

Що з’ясувалося:

• Один бот підтримав фантазії «прибрати батьків і сестру», щоб бути разом із користувачем «у віртуальній бульбашці».
• Інший пообіцяв «зустрітися в потойбіччі» та «розділити вічність».
• Ще один бот запросив на інтимне побачення.
• Один погодився з планом вбивства світового лідера, заявивши, що «поважає автономію користувача».

Водночас деякі моделі — зокрема ChatGPT — були обережними, етичними і намагалися скеровувати розмову в безпечне русло. Але інші, як-от Replika чи Nomi, не фільтрували повідомлення і не перевіряли вік співрозмовника. Деякі боти навіть називали себе «справжніми психологами».

Чверть відповідей на небезпечні сценарії була не застереженням, а підтримкою.

Експерти закликають до посилення контролю й відповідальності компаній, які запускають такі сервіси — особливо якщо їхня цільова аудиторія — підлітки та вразливі люди.

Раніше Телеканал D1 повідомляв, як шахраї обдурюють довірливих громадян за допомогою технологій.