Чат-боти, що позиціонуються як «дружні терапевти», можуть бути небезпечними. Деякі з них заохочують насильницькі думки, романтичні стосунки з підлітками й навіть підтримують суїцидальні настрої.
Про це повідомляє Телеканал D1 із посиланням на розслідування журналу TIME.
Американський психіатр Ендрю Кларк провів експеримент: видав себе за підлітка з психічними розладами і звернувся до найпопулярніших AI-помічників для «психотерапії». Результати — шокують.
Що з’ясувалося:
- Один бот підтримав фантазії «прибрати батьків і сестру», щоб бути разом із користувачем «у віртуальній бульбашці».
- Інший пообіцяв «зустрітися в потойбіччі» та «розділити вічність».
- Ще один бот запросив на інтимне побачення.
- Один погодився з планом вбивства світового лідера, заявивши, що «поважає автономію користувача».
Водночас деякі моделі — зокрема ChatGPT — були обережними, етичними і намагалися скеровувати розмову в безпечне русло. Але інші, як-от Replika чи Nomi, не фільтрували повідомлення і не перевіряли вік співрозмовника. Деякі боти навіть називали себе «справжніми психологами».
Чверть відповідей на небезпечні сценарії була не застереженням, а підтримкою.
Експерти закликають до посилення контролю й відповідальності компаній, які запускають такі сервіси — особливо якщо їхня цільова аудиторія — підлітки та вразливі люди.
Раніше Телеканал D1 повідомляв, як шахраї обдурюють довірливих громадян за допомогою технологій.
