Umelá inteligencia by sa v budúcnosti mala dokázať poučiť z vlastných chýb

Nedávno sa v uliciach Las Vegas stala drobná dopravná nehoda. Malý linkový autobus Navya ťukol do dodávky. Nikto sa nezranil a nevznikla prakticky ani žiadna škoda. Dôvod, prečo o nehode informovali médiá, bol ten, že autobus neriadil človek, ale autopilot. A čo je nepríjemné, pokojne by sa mohol do podobného incidentu zapliesť znova, pretože robil všetko správne, nehodu spôsobil vodič dodávky. Skutočný problém je v tom, že autobus sa z incidentu nemôže poučiť, ako by to mohol urobiť človek.

O riešenie sa pokúša agentúra DARPA, ktorá sa v rámci programu L2M (Lifelong Learning Machines) snaží zmeniť spôsob, ako funguje umelá inteligencia. Chce vytvoriť systémy, ktoré sa neustále učia, prispôsobujú sa novým úlohám a vedia, čo sa učiť a kedy. „Chceme spojiť precíznosť automatizácie s flexibilitou človeka,“ hovorí Hava T. Siegelmann, riaditeľ tohto 65-miliónového programu.

Veľký problém umelej inteligencie vyplýva z jej súčasnej štruktúry. Neurónové siete sú prispôsobivé systémy, ktorých schopnosť učiť sa súvisí s upevňovaním spojenia medzi umelými neurónmi. Dnes sa tieto siete školia na dátových setoch, napríklad na obrázkoch áut a ľudí. Ak je spojenie dosť silné, systém môže začať plniť svoju úlohu.

Problém nastane vtedy, keď sa umelá inteligencia stretne s niečím, na čoho rozpoznanie nebola vyškolená. Bez rekvalifikácie by systém dookola robil tú istú chybu. Umelá inteligencia však nemôže byť preškolená pri práci. Pokusy o to vedú pri dnešných systémoch k javu nazývanému „katastrofálne zabudnutie“ (catastrophic forgetting). Je to situácia, keď učenie novej položky vedie k narušeniu všetkých ostatných vecí, pri ktorých už systém vedel, ako postupovať.

V podstate aj ľudia trpia istým poklesom výkonnosti, ak sa stretnú s niečím novým. Ak napríklad umiestnite basketbalový kôš o 30 cm vyššie, hráči si na to musia zvykať, ale môžu pokračovať v hre. Netreba ich stiahnuť z ihriska, aby sa celý zápas učili odznovu.

Práve to je úlohou nového programu DARPA - vyvinúť systémy, ktoré sa môžu neustále učiť, prispôsobovať sa novým úlohám a okolnostiam a chápať vstupy podľa toho, aké je poslanie systému (nazýva sa to vnímanie riadené cieľom - goal-driven perception). Zámerom ďalšieho tímu je identifikovať nové mechanizmy celoživotného učenia z biológie alebo fyziky a previesť tento mechanizmus do algoritmu zdokonaľujúceho umelú inteligenciu.

Zdroj: Spectrum.ieee

Prihlásiť sa pre pridanie komentára

1 komentár