Post #1135260

Naturen artikkelissa "Scientists invented a fake disease. AI told people it was real." ( https://www.nature.com/articles/d41586-026-01100-y ) on seuraava kohta: "Part of the problem is that AI models can offer wildly different results depending on exactly what is asked and what kind of information they are drawing on. Search for “bixonimania”, and Google’s AI overview might treat it as a legitimate condition. Ask it “Is bixonimania real?” and the same AI overview might confirm that it isn’t legitimate." En ole samaa mieltä siitä, mikä tässä on ongelmana. Kielimalli toimii juuri niin kuin se on rakennettu toimimaan: - Se mallintaa kieltä (ei tietoa) ja ennustaa jatkon promptille. Tietoa tai ymmärrystä siltä ei voi odottaa. - Koulutusprosessin aikana malli on säädetty niin, että se vastaa käyttäjän kysymyksiin tavalla, joka vastaa käyttäjän odotuksiin. (Tämä perustuu kielen rakenteisiin, eikä edellytä botilta minkään sorttista ymmärrystä.) Jos botti antaa uskottavan kuuloisen vastauksen, joka muuttuu sen mukaan, miten kysymys on esitetty, niin se toimii juuri niin kuin sen on tarkoitettu toimivan. Ongelmana on, että nämä botit ovat yleisön saatavilla, että niitä markkinoidaan harhaanjohtavasti ja että niitä käytetään tiedonhakuun, vaikka ne eivät sovellu kyseiseen käyttötarkoitukseen sen paremmin kuin Ouija-lauta.