Na področju umetne inteligence (UI) je halucinacija (ali umetna halucinacija) odziv umetne inteligence, ki vsebuje napačne ali zavajajoče informacije, predstavljene kot dejstva. Ti izrazi uporabljajo ohlapno analogijo s človeško psihologijo, kjer halucinacija pomeni zaznavanje stvari, ki ne obstajajo.

Na primer, klepetalni robot, ki ga poganjajo veliki jezikovni modeli (LLMi), kot je ChatGPT, lahko v ustvarjeno vsebino vključijo na videz prepričljive neresnične podatke. Odkrivanje in odpravljanje napak ter halucinacij je velik izziv za zanesljivo uporabo teh modelov na kritičnih področjih, kot so načrtovanje čipov, logistika oskrbovalnih verig in medicinska diagnostika. Nekateri inženirji programske opreme in statistiki kritizirajo izraz »halucinacija umetne inteligence«, saj po njihovem mnenju računalnikom nerazumno pripisuje človeške lastnosti. Za razliko od velikih jezikovnih modelov pa sistemi simbolne umetne inteligence takšnih halucinacij praviloma ne ustvarjajo.

Izraz

Izvor V računalniškem vidu izraz »halucinacija« že od osemdesetih let 20. stoletja pomeni dodajanje podrobnosti sliki z namenom njene izboljšave. Primer takšne naloge je ustvarjanje obraznih slik visoke ločljivosti iz vhodnih podatkov nizke ločljivosti, kar imenujemo halucinacija obraza. Izraz je v svoji doktorski disertaciji leta 1986 uvedel Eric Mjolsness. Pomembno delo na tem področju je algoritem za halucinacijo obrazov, ki sta ga leta 1999 objavila Simon Bake in Takeo Kanade.

V 2000-ih so halucinacije v statističnem strojnem prevajanju opisovali kot vrsto napake.

Od leta 2010 naprej izraz halucinacija označuje ustvarjanje vsebinsko napačnih ali zavajajočih izhodnih podatkov v sistemih umetne inteligence, na primer pri strojnem prevajanju in zaznavanju objektov. Leta 2015 sta Saurabh Gupta in Jitendra Malik halucinacije prepoznala pri vidnem označevanju semantičnih vlog. Istega leta je računalnikar Andrej Karpathy v objavi na blogu uporabil izraz »haluciniral«, ko je njegov jezikovni model na osnovi rekurenčne nevronske mreže (RNN), ustvaril napačno povezavo do vira. Leta 2017 so Googlovi raziskovalci izraz uporabili za opisovanje odzivov modelov nevronskega strojnega prevajanja (NMT), ki niso bili povezani z izvirnim besedilom, leta 2018 pa so ga v računalniškem vidu uporabili za opisovanje napačnega zaznavanja neobstoječih predmetov zaradi zlonamernih napadov.

Julija 2021 je podjetje Meta ob izdaji modela BlenderBot 2 opozoril, da je sistem nagnjen k »halucinacijam«, ki jih je Meta opredelila kot »samozavestne izjave, ki niso resnične«. Po izdaji beta različice ChatGPT podjetja OpenAI novembra 2022 so se nekateri uporabniki pritožili, da takšni klepetalniki v ustvarjeno vsebino pogosto brez razloga vključujejo na videz verjetne naključne neresnice. Številni mediji, vključno s časopisom The New York Times, so izraz »halucinacije« začeli uporabljati za opisovanje pogosto napačnih ali nedoslednih odzivov teh modelov

Leta 2023 je Cambridge dictionary posodobil svojo definicijo pojma »halucinacija«, da bi vključil ta novi pomen, značilen za področje umetne inteligence.

Definicije in alternative

Med opredelitve in načine uporabe izraza »halucinacija« v povezavi z velikimi jezikovnimi modeli (LLM) sodijo:

»nagnjenost k izmišljevanju dejstev v trenutkih negotovosti« (OpenAI, maj 2023) »logične napake modela« (OpenAI, maj 2023) »popolno izmišljevanje informacij, vendar z vedenjem, kot da gre za navajanje dejstev« (CNBC, maj 2023) »navajanje izmišljenih podatkov« (The Verge, februar 2023) »verjetnostne porazdelitve« (v znanstvenem kontekstu) Novinar Benj Edwards v publikaciji Ars Technica piše, da je izraz »halucinacija« sicer sporen, a da ostaja uporaba ustrezne metafore nujna; kot ustreznejšo analogijo za procese, ki vključujejo »ustvarjalno zapolnjevanje vrzelj«, predlaga izraz »konfabulacija«. Julija 2024 je poročilo Bele hiše o spodbujanju javnega zaupanja v raziskave umetne inteligence omenjalo halucinacije le v kontekstu njihovega zmanjševanja. Omeniti velja, da se je Nobelov odbor ob podelitvi nagrade Davidu Bakerju za delo z beljakovinami, ustvarjenimi z umetno inteligenco, izrazu popolnoma izognil ter proces opisal kot »domiselno ustvarjanje beljakovin«.

Sklici

Kategorija:Umetna inteligenca Kategorija:Sporočanje neresnic Kategorija:Antropomorfizem