Themis AI pomôže ostatným AI, aby nehalucinovali a nevymýšlali si nesprávne odpovede

Spin-off MIT CSAIL predstavil platformu Capsa, ktorá obalí ľubovoľný model strojového učenia a v reálnom čase mu pridá schopnosť kvantifikovať vlastnú neistotu. Capsa sleduje interné aktivácie neurónovej siete, hľadá vzory typické pre halucinácie, nedostatok dát či predsudky a vypočíta numerické skóre rizika. Ak prekročí stanovený limit, model namiesto sebavedomej odpovede vráti „neviem“ alebo si vyžiada dodatočné overenie.

Prvé nasadenia v telekomunikačných firmách skrátili ľudskú validáciu výstupov o 30 % a znížili chybovosť predikcií o 45 %. V ropnom prieskume pomohla Capsa identifikovať anomálne seismické mapy, takže sa drahé sondy nenavŕtali do slepých vrstiev. Themis AI založili Daniela Rus, Alexander Amini a Elaheh Ahmadi; firma získala kapitál od E14 Fund a Mozilla Ventures.

Okrem podnikovej licencie ponúka aj open-source implementáciu pre akademické účely. V budúcnosti chce Capsa rozšíriť o „aktívne učenie“: ak AI odhalí svoju neznalosť, automaticky si vyžiada nové dáta a zahrnie ich do ďalšieho tréningu – čím sa z „čiernej skrinky“ stane transparentnejší spoločník pre kritické odvetvia, od zdravotníctva až po autonómne autá.

Zdroj: news.mit.edu.

^{Zdroj Foto: depositphotos.com.}