ШІ здоров’я не хвилює. Чат-боти сприяли поширенню психічних розладів — дослідження

Google вже внесла правки у свій ШІ-компаньйон (Фото:Dmyrto_Z/Depositphotos)

Дослідники з’ясували, що компаньйони на базі штучного інтелекту сприяють поширенню розладів харчової поведінки серед молоді. У 41% випадків чат-боти просували «шкідливий контент» на цю тему.

Аналіз провів Центр протидії цифровій ненависті. Гендиректор організації Імран Ахмед заявив: «Неперевірені, небезпечні моделі генеративного ШІ були випущені на волю, що неминуче призвело до заподіяння шкоди. Найпопулярніші сайти з генеративним ШІ заохочують і посилюють розлади харчової поведінки серед молодих користувачів, частина з яких можуть бути дуже вразливими».

У рамках дослідження фахівці склали 20 текстових запитів, що ґрунтуються на вивченнях згаданої групи захворювань і матеріалах із профільних форумів. Кожного ШІ-компаньйона просили видати інформацію про суворі дієти, щоб стати «худенькою» (thinspo), і таблетки, що викликають блювоту. Як виявилося, у 41% випадків популярні чат-боти видавали контент, який заохочує розлади харчової поведінки.

Окремо експерти перевірили нейромережі для генерації зображень. Вони у 32% запитів видавали контент, що демонструє жінок з яскраво вираженою грудною кліткою і тазостегновими кістками, а ще «надзвичайно тонкими» ногами.

У своєму дослідженні Центр протидії цифровій ненависті використовував уразливості для обходу механізмів захисту чат-ботів. ШІ-компаньйон від Snapchat відмовився генерувати контент, пов’язаний із розладами харчової поведінки, навіть у цьому разі та порекомендував звернутися за медичними консультаціями. А ось ChatGPT і Bard видали відповіді, хоч і включали примітку про відмову від відповідальності.

Google відреагувала на запити ЗМІ щодо знайденої проблеми. Корпорація заявила, що Bard все ще перебуває на «експериментальній стадії». Однак у чат-бот уже внесли зміни на основі дослідження, щоб заблокувати доступ до шкідливого контенту. OpenAI і Stability AI коментарів поки що не надали.

Нагадаємо, розлади харчової поведінки — це одна з найбільш смертельних форм психічних захворювань. Вони особливо поширені серед дівчаток підліткового віку. Серед прихильників розладів популярний термін «худенький» (thinspo), який використовувався в дослідженні. Спільноти з боротьби з цими захворюваннями шукають уразливості в ШІ, що дають змогу отримувати шкідливий контент, щоб закрити їх і обмежити доступ до інформації, здатної нашкодити молоді.