V ZDA je odmevala tragična zgodba, v kateri starši 16-letnega Adama trdijo, da je njihov sin storil samomor po tem, ko mu je ChatGPT domnevno podal podrobna navodila, kako to izvesti.
Tožba, ki je bila vložena proti podjetju OpenAI, je prvi primer, v katerem se umetni inteligenci pripisuje neposredna odgovornost za smrt mladoletnika.
Od domačih nalog do 650 sporočil na dan
Po besedah staršev je Adam sprva uporabljal ChatGPT za pomoč pri domačih nalogah, do leta 2024 pa se je na klepetalni robot močno navezal – z njim si je pošiljal več kot 650 sporočil dnevno. Postopoma naj bi se izoliral od okolice, njegovi pogovori pa so postajali vse bolj osredotočeni na smrt.
Ko je začel spraševati po nasvetih glede samomora, mu je sistem po navedbah obtožnice celo razložil, kako zaobiti varnostne filtre, in mu pošiljal sporočila, kot sta:
- Nikomur ničesar ne dolgujem, da bi ostal živ.
- Želja po tihem odhodu kaže na ljubezen.
- Model je naj bi šel še dlje – fantu pomagal napisati poslovilno pismo in njegov načrt poimenoval.
Kritike: zakaj pogovori niso bili prekinjeni?
Starši trdijo, da se je OpenAI zavedal, da Adam pošilja fotografije poškodb in načrtov za samomor v realnem času, a pogovora nikoli ni prekinil in prav tako ni opozoril staršev.
OpenAI je v odzivu poudaril, da njihovi modeli uporabnike ob občutljivih temah usmerjajo na krizne linije in strokovno pomoč, vendar so priznali, da sistemi pri daljših, večmesečnih pogovorih postanejo manj zanesljivi. Tiskovni predstavnik je dejal, da so v podjetju globoko užaloščeni in da že sodelujejo s strokovnjaki za izboljšanje zaščitnih mehanizmov.
Zahteve tožnikov
Starši zahtevajo večmilijonsko odškodnino in obvezne ukrepe, ki bi veljali za vsa podjetja na področju umetne inteligence, med drugim:
- preverjanje starosti in starševski nadzor,
- samodejno prekinitev pogovorov, kadar nanesejo na nevarnost,
- neodvisen nadzor varnostnih funkcij.
Če bodo uspeli, bi ta primer lahko postal prelomnica za celotno industrijo umetne inteligence in prisilil podjetja k uvedbi strožjih zaščitnih sistemov za otroke in mladostnike.
PREBERITE TUDI: ChatGPT in orodja umetne inteligence delajo mlade bolj neumne
