Ngrihet alarmi! Pas komunikimit me AI, një 14-vjeçar u vetëvra…

Dy senatorë amerikanë po kërkojnë që kompanitë e Inteligjencës Artificiale të hedhin dritë mbi praktikat e tyre të sigurisë. Kjo vjen disa muaj pasi disa familje, duke përfshirë një nënë nga Florida, djali 14-vjeçar i së cilës vdiq nga vetëvrasja paditën startupin “Character.AI”, duke pretenduar se chatbot-et e tij dëmtonin fëmijët e tyre.

“Ne shkruajmë për të shprehur shqetësimet tona në lidhje me rreziqet e shëndetit mendor dhe sigurisë që u paraqiten përdoruesve të rinj të chatbot-it të inteligjencës artificiale të bazuar në karaktere dhe persona dhe aplikacione shoqëruese,” shkruan Senatorët Alex Padilla dhe Peter Welch, të dy demokratë, në një letër të mërkurën.

Përdorimi i chatbot-eve si shoqërues dixhital po rritet në popullaritet , me disa përdorues që madje i trajtojnë ata si partnerë romantikë .

Por, mundësia për të krijuar robotë të personalizuar ka nxitur shqetësime nga ekspertët dhe prindërit në lidhje me përdoruesit, veçanërisht të rinjtë, duke formuar bashkëngjitje potencialisht të dëmshme për personazhet e AI ose aksesin në përmbajtje të papërshtatshme për moshën.

Nëna e Floridës që paditi Character.AI në tetor, Megan Garcia pretendoi se djali i saj zhvilloi marrëdhënie të papërshtatshme me chatbots në platformë që e bëri atë të tërhiqej nga familja e tij.

Sipas saj shumë nga bisedat e tij me robotët ishin me pwrmbajtje seksiste dhe aspak tw hijshme. Në dhjetor, dy familje të tjera paditën Character.AI , duke e akuzuar atë për ofrimin e përmbajtjes seksuale për fëmijët e tyre dhe inkurajimin e vetëlëndimit dhe dhunës.

Një familje e përfshirë në padi pretendoi se një bot Character.AI i nënkuptoi një përdoruesi adoleshent se ai mund të vriste prindërit e tij për kufizimin e kohës së tij para ekranit./abcnews.al