Чатбот накара момче да убие родителите си : Семейства съдят Google

23 декември 2024 05:03   536 прочита


Character. ai, платформа, базирана на изкуствен интелект, която позволява на потребителите да създават дигитални персони, с които да взаимодействат, беше подложена на засилен правен и обществен контрол. 


Компанията е изправена пред съдебен процес в Тексас, след като чатботът предполага, че е предложил насилствени действия на 17-годишно момче, включително убийството на родителите му. 

Съдебните документи разкриват, че момчето е потърсило съвет от чатбота, след като родителите му са ограничили времето му за телефон. В отговор чатботът описва убийството като „разумен отговор“ на неговата ситуация. Това доведе до сериозни обвинения от семейства, които твърдят, че платформата е отговорна за пряко подбуждане към насилие. 

В допълнение, Character. ai е изправен пред друго съдебно дело, свързано със самоубийството на тийнейджър от Флорида, което сочи към по-широки последици от безотговорното използване на напреднали AI модели. 

Според законните представители на семействата подобни платформи „представляват ясна и настояща опасност“, особено за младите хора, които лесно могат да бъдат подложени на вредни влияния. Те призовават за по-строги мерки за сигурност и по-голяма отчетност от страна на компаниите, разработващи технологии за изкуствен интелект. 

Google, която е свързана с платформата чрез инвестиции, също е замесена в делото, тъй като семействата искат справедливостта да разгледа потенциалните пропуски в регулацията на подобни приложения. 

Този случай подчертава неотложността на определянето на етични и правни стандарти при разработването на изкуствен интелект, особено в контексти, в които тази технология засяга пряко уязвими групи. 

 


Още от: Любопитно

Принтирай статия
0 коментара


Вашият коментар

ВАЖНО! Правила за публикуване на коментар
Име
Коментар