Чатбот накара момче да убие родителите си : Семейства съдят Google
Character. ai, платформа, базирана на изкуствен интелект, която позволява на потребителите да създават дигитални персони, с които да взаимодействат, беше подложена на засилен правен и обществен контрол.
Компанията е изправена пред съдебен процес в Тексас, след като чатботът предполага, че е предложил насилствени действия на 17-годишно момче, включително убийството на родителите му.
Съдебните документи разкриват, че момчето е потърсило съвет от чатбота, след като родителите му са ограничили времето му за телефон. В отговор чатботът описва убийството като „разумен отговор“ на неговата ситуация. Това доведе до сериозни обвинения от семейства, които твърдят, че платформата е отговорна за пряко подбуждане към насилие.
В допълнение, Character. ai е изправен пред друго съдебно дело, свързано със самоубийството на тийнейджър от Флорида, което сочи към по-широки последици от безотговорното използване на напреднали AI модели.
Според законните представители на семействата подобни платформи „представляват ясна и настояща опасност“, особено за младите хора, които лесно могат да бъдат подложени на вредни влияния. Те призовават за по-строги мерки за сигурност и по-голяма отчетност от страна на компаниите, разработващи технологии за изкуствен интелект.
Google, която е свързана с платформата чрез инвестиции, също е замесена в делото, тъй като семействата искат справедливостта да разгледа потенциалните пропуски в регулацията на подобни приложения.
Този случай подчертава неотложността на определянето на етични и правни стандарти при разработването на изкуствен интелект, особено в контексти, в които тази технология засяга пряко уязвими групи.
Нарушението, на която и да е точка от горните правила ще се смята за основание коментарът да бъде скрит. При системно нарушаване на правилата достъпът на потребителя ще бъде органичен.