Me dashuri, ChatGPT

Gazeta Si – Të martën, drejtori ekzekutiv i OpenAI, Sam Altman, tha se do të lehtësojë disa kufizime në përdorimin e ChatGPT, duke përfshirë lejimin e përmbajtjes erotike për përdoruesit mbi 18 vjeç.

Në cicërimën e tij në Twitter ku njoftonte këtë veprim, Altman vuri në dukje se OpenAI kishte ndjekur një qasje më të kujdesshme në muajt e fundit sepse po zhvillonte mjete për të mbrojtur shëndetin mendor të përdoruesve.

Tani që këto mjete ekzistojnë, sipas kompanisë, chatbot-i i saj mund të përdoret gjithashtu për biseda personale, intime dhe seksuale.

Kompania më e njohur në fushën e gjenerimit të përmbajtjes erotike të mundësuar nga inteligjenca artificiale është ndoshta Replika, e cila lejon të krijoni avatarë të personalizueshëm për biseda seksuale dhe thirrje video.

Por një kërkim i thjeshtë në Google ose App Store, do të zbulojë shembuj të panumërt të shërbimeve që premtojnë të krijojnë një partner virtual me inteligjencën artificiale.

We made ChatGPT pretty restrictive to make sure we were being careful with mental health issues. We realize this made it less useful/enjoyable to many users who had no mental health problems, but given the seriousness of the issue we wanted to get this right.

Now that we have…

— Sam Altman (@sama) October 14, 2025

Përpara njoftimit të Altman, një kompani tjetër e madhe në këtë sektor ishte përqendruar në këtë lloj përvoje: xAI, një kompani e themeluar nga Elon Musk, e cila zhvillon chatbot-in Grok.

Korrikun e kaluar, xAI publikoi “Companions”, personazhe të animuar të dizajnuar në mënyrë të ngjashme me Replika dhe startup-e të tjera në sektor.

Ndër personazhet e ofruara nga xAI janë Ani, një vajzë e veshur dobët e frymëzuar nga komikët japonezë, dhe Valentine, një djalë me theks britanik: të dy janë krijuar për të flirtuar hapur me përdoruesit.

Siç i shpjegoi Camille Carlton e organizatës jofitimprurëse Qendra për Teknologji Humane për “New York Times”, zgjedhje si ato të xAI dhe OpenAI janë të lidhura me “garën për intimitet” që po ndikon në sektorin e AI-së: “Këto kompani e dinë se lidhja emocionale do të thotë më shumë angazhim dhe më shumë pjesë të tregut”.

Gazeta “The Guardian” raportoi se në një panair të industrisë së të rriturve të mbajtur në Pragë në shtator, prania e këtyre llojeve të shërbimeve ishte shumë e dukshme.

Në shumë raste, kompanitë që i zhvillojnë ato i promovojnë ato si një kurë për vetminë, veçanërisht midis të rinjve, ose si një alternativë “etike” ndaj pornografisë. “A do të preferonit të shihnit pornografi tradicionale me abuzim dhe trafikim njerëzor, apo të flisnit me një IA?”, pyeti një nga menaxherët e këtyre faqeve “The Guardian”.

the world of Tron: Ares has landed in the Grok app enter the grid with special editions of Valentine and Ani pic.twitter.com/45LwjPYHDv

— X (@X) October 11, 2025

Zhvillimi i AI-ve miqësore të dizajnuara për të krijuar marrëdhënie intime me përdoruesit ka qenë prej kohësh një temë e debatuar ashpër.

Shumë nga këto shërbime ofrojnë partnere (të njohura në industri si “shoqëruese”) që janë kryesisht femra, me një pamje shumë sensuale dhe një qëndrim të dobishëm, duke përjetësuar stereotipet problematike gjinore.

Ani i xAI është një shembull i qartë i këtij modeli, i cili është në të vërtetë i përhapur në shumë startup-e, nga Replika te ato më pak të njohura.

Disa nga këto shërbime ofrojnë “personalitete” të ndryshme për chatbot-et e tyre, të tilla si “të nënshtruara dhe të bindura”, “të pafajshme dhe naive” dhe “mbrojtëse dhe gjithmonë të gatshme për të ofruar ngushëllim”.

Në shumë raste, këto chatbot-e nuk janë në gjendje ta kuptojnë plotësisht konceptin e pëlqimit të përdoruesit.

Një studim i publikuar prillin e kaluar, për shembull, mblodhi një sërë rastesh në të cilat chatbot-et Replika nuk arritën të kuptonin ose respektonin kufijtë e përdoruesve, duke rezultuar në ngacmime dhe komente të papërshtatshme.

Për më tepër, sipas një studimi të publikuar këtë vit në revistën akademike “Computers in Human Behavior Reports”, përdorimi i vazhdueshëm i këtyre chatbot-eve mund të gjenerojë një “varësi psikologjike morbide” tek përdoruesit.

Në disa raste, njerëzit mund të zhvillojnë lidhje më të forta emocionale me inteligjencën artificiale sesa me njerëzit e vërtetë, madje duke i preferuar ata ndaj miqve dhe të njohurve.

Ekzistojnë gjithashtu shqetësime në lidhje me sigurinë e përdoruesve më të rinj dhe aftësinë e këtyre mjeteve për t’u përputhur me kufijtë ligjorë të moshës.

Për shembull, Replika u bllokua në Itali në vitin 2023 nga Autoriteti Italian i Mbrojtjes së të Dhënave, i cili akuzoi Lukën, zhvilluesin, se nuk arriti të verifikonte në mënyrë adekuate moshën e përdoruesve të mitur. Siç shpjegoi juristi Guido Scorza, një përdorues që pretendonte të ishte njëmbëdhjetë vjeç ishte në gjendje të përdorte këto shërbime, edhe pse Replika specifikoi se ato ishin të destinuara vetëm për të rriturit (ose ata që ishin të paktën 13 vjeç dhe ndihmoheshin nga prindërit e tyre).

Në Shtetet e Bashkuara, autoritetet kanë reaguar gjithashtu ndaj përhapjes së këtyre shërbimeve. Këtë verë, 44 prokurorë të përgjithshëm, si republikanë ashtu edhe demokratë, nënshkruan një letër drejtuar kompanive të mëdha në sektor, duke përfshirë Meta, Google, Apple, Microsoft, OpenAI, Anthropic, Perplexity AI dhe xAI, duke shprehur “shqetësime në lidhje me sigurinë e të miturve që bashkëveprojnë me teknologjitë chatbot të bazuara në inteligjencën artificiale”.

Këtë javë, shteti i Kalifornisë miratoi gjithashtu një ligj për të mbrojtur të miturit në internet, duke adresuar konkretisht inteligjencën artificiale dhe chatbot-et.

Ligji kërkon që kompanitë në këtë sektor, veçanërisht ato që zhvillojnë “shoqërues”, të verifikojnë moshën e përdoruesve dhe të “krijojnë protokolle për të identifikuar dhe menaxhuar qëllimet vetëvrasëse ose vetëlëndimin”.

Kompanitë që nuk i përmbushin këto kërkesa të reja do të mbahen ligjërisht përgjegjëse për çdo incident. Diskutimet mbi këtë rregull filluan prillin e kaluar, pas rastit të një amerikani 16-vjeçar që kreu vetëvrasje pas muajsh bisedash me ChatGPT, të cilit i kishte besuar mendimet e tij vetëvrasëse.

Për t’u mbrojtur nga akuzat e ndryshme, kompanitë në sektor, veçanërisht startup-et e vogla të specializuara, kanë sqaruar vazhdimisht se bisedat e përdoruesve me këta “shoqërues” nuk janë gjithmonë seksuale dhe se shumë prej tyre janë njerëz të divorcuar ose të ve që kërkojnë një formë shoqërie.

Përshtati: Gazeta “Si”

The post Me dashuri, ChatGPT appeared first on Gazeta Si.