Miksi tekoäly hallusinoi
Kielimalli ennustaa, mikä sana todennäköisesti seuraa edellisiä. Se ei tarkista faktoja tietokannasta, ellei sille anneta lähdettä. Kun tieto puuttuu, se tuottaa uskottavan näköisen vastauksen: keksityn hinnan, lähteen, lakipykälän tai asiakasreferenssin.
Tyypilliset virheet yrityskäytössä
- Keksityt luvut ja hinnat tarjouksissa.
- Väärät tuotetiedot, esimerkiksi sopivuus tai mitat.
- Olemattomat lähteet ja lakiviittaukset.
- Lupaukset, joita yritys ei ole antanut ("toimitus huomenna").
Näin estät hallusinaatiot
- Anna faktat itseLiitä hinnasto, tuotetiedot tai ehdot ohjeeseen. Kiellä käyttämästä muuta tietoa.
- Pyydä merkitsemään epävarmat kohdat"Jos tieto puuttuu, kirjoita [TARKISTA] äläkä arvaa."
- Tarkista luvut, nimet ja lupauksetNämä kolme ovat yleisimmät virheet.
- Ihminen hyväksyy ennen lähetystäAutomaatioissa tekoäly tekee luonnoksen, ei lähetä itse.
Aitavan omissa automaatioissa jokaisella tekoälyn tekemällä luonnoksella on erillinen tarkistusvaihe, joka vertaa luvut alkuperäisiin tietoihin ennen kuin ihminen hyväksyy.
Kysymyksiä
Voiko hallusinaatiot poistaa kokonaan?
Eivät kokonaan, mutta niitä voi vähentää paljon antamalla faktat itse ja tarkistamalla tärkeät kohdat.
Hallusinoiko ChatGPT enemmän kuin muut?
Kaikki kielimallit hallusinoivat jonkin verran. Erot muuttuvat versioiden myötä, joten tarkistus on tarpeen kaikilla.
Mitä hallusinaatio tarkoittaa tekoälyssä?
Sitä, että tekoäly tuottaa virheellistä tietoa niin kuin se olisi totta.