Jaapas Arriensas | Nurphoto | Getty Images
Dirbtinio intelekto funkcija „iPhone“ įrenginiuose generuoja netikrų naujienų perspėjimus, o tai kelia susirūpinimą dėl technologijos gebėjimo skleisti dezinformaciją.
Praėjusią savaitę funkcija, kurią neseniai pristatė Apple kuri apibendrina vartotojų pranešimus naudojant AI, išstūmė netiksliai apibendrintus BBC News programos pranešimus apie transliuotojo istoriją apie PDC pasaulio smiginio čempionato pusfinalį, melagingai teigdama, kad britų smiginio žaidėjas Luke'as Littleris laimėjo čempionatą.
Incidentas įvyko likus dienai iki tikrojo turnyro finalo, kurį Littleris laimėjo.
Tada, praėjus vos kelioms valandoms po šio incidento, Apple Intelligence, technologijų milžinės dirbtinio intelekto sistemos, sukurtas atskiras pranešimas melagingai teigė, kad teniso legenda Rafaelis Nadalis pasirodė esąs gėjus.
BBC maždaug mėnesį bandė priversti „Apple“ išspręsti problemą. Didžiosios Britanijos valstybinis transliuotojas gruodį pasiskundė Apple po to, kai jo AI funkcija sukūrė klaidingą antraštę, leidžiančią manyti, kad Luigi Mangione, vyras, suimtas po sveikatos draudimo įmonės UnitedHealthcare generalinio direktoriaus Briano Thompsono nužudymo Niujorke, nusišovė, o tai niekada neįvyko.
„Apple“ nebuvo iš karto prieinama komentuoti, kai su ja susisiekė CNBC. Pirmadienį „Apple“ BBC pranešė, kad dirba prie atnaujinimo, kad išspręstų problemą, pridėdama paaiškinimą, nurodantį, kada „Apple Intelligence“ yra atsakinga už pranešimuose rodomą tekstą. Šiuo metu sugeneruoti naujienų pranešimai rodomi kaip gaunami tiesiai iš šaltinio.
„Apple Intelligence funkcijos yra beta versijos ir mes nuolat tobuliname naudotojų atsiliepimus“, – sakoma bendrovės pranešime, pasidalintame su BBC. „Apple“ pridūrė, kad ji skatina vartotojus pranešti apie susirūpinimą, jei jie peržiūri „netikėtą pranešimų santrauką“.
BBC nėra vienintelė naujienų organizacija, kurią paveikė Apple Intelligence, netiksliai apibendrinanti naujienų pranešimus. Lapkričio mėnesį ši funkcija išsiuntė AI apibendrintą pranešimą, kuriame klaidingai teigiama, kad Izraelio ministras pirmininkas Benjaminas Netanyahu buvo areštuotas.
Apie klaidą socialinės žiniasklaidos programėlėje „Bluesky“ pažymėjo Kenas Schwencke, vyresnysis tiriamosios žurnalistikos svetainės „ProPublica“ redaktorius.
CNBC susisiekė su BBC ir „New York Times“, kad pakomentuotų „Apple“ siūlomą AI funkcijos dezinformacijos problemos sprendimą.
AI dezinformacijos problema
„Apple“ skelbia savo dirbtinio intelekto sugeneruotas pranešimų santraukas kaip veiksmingą būdą sugrupuoti ir perrašyti naujienų programų pranešimų peržiūras į vieną įspėjimą vartotojų užrakinimo ekrane.
„Apple“ teigimu, tai funkcija, skirta padėti vartotojams nuskaityti pranešimus, kad gautų pagrindinę informaciją, ir sumažinti didžiulį atnaujinimų srautą, su kuriais žino daugelis išmaniųjų telefonų naudotojų.
Tačiau tai sukėlė tai, ką dirbtinio intelekto ekspertai vadina „haliucinacijomis“ – dirbtinio intelekto sugeneruotus atsakymus, kuriuose yra klaidingos ar klaidinančios informacijos.
„Įtariu, kad „Apple“ nebus viena, turėdama iššūkių, susijusių su AI sukurtu turiniu. Jau matėme daug pavyzdžių, kai AI paslaugos užtikrintai sako klaidingą, vadinamąsias „haliucinacijas“, – sako Benas Woodas, į technologijas orientuotos rinkos vyriausiasis analitikas. tyrimų įmonė „CCS Insights“, sakė CNBC.
Apple atveju, kadangi dirbtinis intelektas bando konsoliduoti pranešimus ir juos sutrumpinti, kad būtų rodoma tik pagrindinė informacijos santrauka, žodžiai sumaišomi taip, kad įvykiai būtų netiksliai apibūdinti, tačiau užtikrintai pateikia juos kaip faktus.
„Apple“ dar sudėtingiau bandė suspausti turinį į labai trumpas santraukas, kurios galiausiai pateikė klaidingus pranešimus“, – pridūrė Woodas. „Apple neabejotinai stengsis kuo greičiau tai išspręsti, ir esu tikras, kad konkurentai atidžiai stebės, kaip ji reaguoja.
Generatyvusis dirbtinis intelektas veikia bandydamas išsiaiškinti geriausią įmanomą atsakymą į vartotojo įterptą klausimą ar raginimą, remdamasis didžiuliais duomenų kiekiais, kuriais apmokomi pagrindiniai jo kalbiniai modeliai.
Kartais AI gali nežinoti atsakymo. Tačiau kadangi jis buvo užprogramuotas taip, kad visada reaguotų į vartotojo raginimus, tai gali lemti atvejus, kai AI iš tikrųjų meluoja.
Neaišku, kada tiksliai bus ištaisyta „Apple“ pranešimų suvestinės funkcijos klaida. „IPhone“ gamintojas teigė, kad tikisi, kad jis pasirodys „per artimiausias savaites“.
