Pse chatbot-et e AI nganjëherë shfaqin informacione të pasakta dhe mashtruese?
24 Qershor '24
Sot në këtë artikull do të bëjmë një përmbledhje se përse chatbot-et e inteligjencës artificiale (AI) tregojnë informacion të rremë ose mashtruese për përdoruesit. Funksioni i ri i kërkimit i Google, ‘Përmbledhjet e AI’, p o përballet me reagime në rritje pasi përdoruesit vërejtën disa përgjigje faktikisht të pasakta dhe mashtruese ndaj pyetjeve.
Përmbledhja e AI (AI Overview), e cila u lansua dy javë më parë, tregon një përmbledhje të përgjigjeve për pyetjet e zakonshme në Google Search në krye të faqes që merr nga burime të ndryshme në internet. Sipas një postimi në blog të Google qëllimi i funksionit të ri është të ndihmojë përdoruesit t'u përgjigjen "pyetjeve më komplekse”.
Në vend të kësaj, ai ka prodhuar shumë përgjigje të rreme. Përgjigjet e “AI Overview” janë më të fundit në një seri shembujsh ku modelet e chatbot-it përgjigjen gabimisht. Një studim nga Vectara, një startup gjenerues i AI, zbuloi se chatbot-et e AI shpikën informacion diku nga tre deri në 27 përqind të rasteve.
Cilat janë halucinacionet e AI?
Modelet e mëdha të gjuhës (LLM), të cilat fuqizojnë chatbot si ChatGPT i OpenAI dhe Gemini i Google, mësojnë të parashikojnë një përgjigje bazuar në modelet që vëzhgojnë.
Modeli llogarit fjalën e ardhshme më të përshtatshme për t'iu përgjigjur pyetjes suaj bazuar në atë që është në bazën e të dhënave të tyre, sipas Hanan Ouazan - partnere dhe drejtuese gjeneruese e AI në Artefact.
"Kjo është pikërisht se si ne punojmë si qenie njerëzore, ne mendojmë para se të flasim," tha ai për Euroneës.
Por ndonjëherë, të dhënat e trajnimit të modelit mund të jenë të paplota ose të njëanshme, duke çuar në përgjigje të pasakta ose "halucinacione" të bëra nga chatbot.
Për Alexander Sukharevsky, një partner me përvojë në “QuantumBlack” në McKinsey, është më e saktë ta quajmë AI "teknologji hibride" sepse përgjigjet e chatbot-it të ofruara janë "të llogaritura matematikisht" bazuar në të dhënat që ata vëzhgojnë.
Nuk ka asnjë arsye pse ndodhin halucinacione, sipas Google: mund të jenë të dhëna të pamjaftueshme stërvitore të përdorura nga modeli, supozime të pasakta ose paragjykime të fshehura në informacionin që përdor chatbot.
Mjeti i ri përmbledhës i AI i Google shkakton shqetësim pasi prodhon përgjigje mashtruese
Google identifikoi disa lloje halucinacionesh të AI, si parashikime të pasakta të ngjarjeve që mund të mos ndodhin në të vërtetë. Google pranon se halucinacionet mund të kenë pasoja të rëndësishme, të tilla si një model i inteligjencës artificiale të kujdesit shëndetësor që identifikon gabimisht një model beninj të lëkurës si malinje, duke çuar në "ndërhyrje të panevojshme mjekësore".
Jo të gjitha halucinacionet janë të këqija, sipas Igor Sevo, kreu i AI në HTEC Group, një firmë globale e zhvillimit të produkteve. Varet vetëm nga ajo për çfarë përdoret AI.
“Në situatat krijuese, halucinacionet janë të mira,” tha Sevo, duke vënë në dukje se modelet e AI mund të shkruajnë pasazhe të reja të tekstit ose emaileve në një stil të caktuar. "Pyetja tani është se si t'i bëjmë modelet të kuptojnë kreativitetin dhe të vërtetën," tha ai.
Google do të nxjerrë përmbledhjet e krijuara nga AI në krye të motorit të kërkimit
Gjithçka ka të bëjë me të dhënat. Ouazan tha se saktësia e një chatbot varet nga cilësia e grupit të të dhënave që po ushqehet.
“Nëse një burim [të dhënash] nuk është 100 për qind… [chatbot] mund të thotë diçka që nuk është e drejtë,” tha ai. "Kjo është arsyeja kryesore pse ne kemi halucinacione."
Tani për tani, Ouazan tha se modelet e AI po përdorin shumë të dhëna në ueb dhe me burim të hapur për të trajnuar modelet e tyre.
OpenAI, në veçanti, po arrin gjithashtu marrëveshje me organizata të masmedias si Axel Springer dhe News Corp dhe botime të tilla si Le Monde për të licencuar përmbajtjen e tyre në mënyrë që ata të mund të trajnojnë modelet e tyre për të dhëna më të besueshme.
Për Ouazan, nuk është se AI ka nevojë për më shumë të dhëna për të formuluar përgjigje të sakta, është se modelet kanë nevojë për të dhëna burimore cilësore.
Sukharevsky tha se ai nuk është i befasuar që chatbot-et e AI-së po bëjnë gabime - ata duhet të bëjnë, në mënyrë që njerëzit që i drejtojnë ato të përsosin teknologjinë dhe grupet e të dhënave të saj derisa shkojnë.
"Unë mendoj se në fund të ditës, është një udhëtim," tha Sukharevsky. “As bizneset nuk kanë shërbim të mirë ndaj klientit që nga dita e parë,” tha ai.
Rivali i OpenAI Anthropic lëshoi chatbotin “Claude” në Evropë për t'u dhënë përdoruesve më shumë zgjedhje.
Një zëdhënës i Google i tha Euronews Next se Përmbledhjet e tij të AI-së morën shumë "pyetje të pazakonta" që ose ishin korrigjuar ose që nuk mund të riprodhoheshin me saktësi, duke çuar në përgjigje të rreme ose halucinacione. Ata thonë se kompania bëri "testim të gjerë" përpara se të lansonte Përmbledhjet e AI dhe po ndërmarrin "veprim të shpejtë" për të përmirësuar sistemet e tyre. / AkademiPune
