W jaki sposób sztuczna inteligencja podejmuje decyzje? Matematycy otwierają „czarną skrzynkę”

Firmy technologiczne stworzyły bestię, ale nawet one nie wiedzą, jak ją do końca wyjaśnić. Rolę zrozumienia, jak działa proces podejmowania decyzji przez sztuczną inteligencję, pozostawiono matematykom, którzy poszukują „wyjaśnialnej sztucznej inteligencji”. Są coraz bliżej.

Naukowcy poszukujący „wyjaśnialnej sztucznej inteligencji” uważają, że matematykę można wykorzystać do zrozumienia wyborów AI. Ci matematycy próbują to zrozumieć, wykrywając wzorce.

„Stworzyliśmy sieci neuronowe, które mogą wykonywać określone zadania, pozwalając jednocześnie na rozwiązywanie równań rządzących działaniem sieci” – mówi Lyle’a Mulleradyrektor Fields Lab for Network Science, pod adresem . „To rozwiązanie matematyczne pozwala nam „otworzyć czarną skrzynkę” aby dokładnie zrozumieć, jak sieć robi to, co robi.”

Zaczynając od podstawowych kształtów, takich jak kwadraty i trójkąty, zespół odpowiedzialny za PNAS w listopadzie stworzył nawracająca sieć neuronowa (RNN) zdolne do identyfikacji komponentów AI. Umożliwia to tworzenie dynamicznych, płynnych wzorów na obrazie.

Było to zatem możliwe wykryć wzorce nawet, zwłaszcza, w złożonym obrazie zwierzęcia w dżungli.

RNN działa bez szkolenia, wykorzystując zestaw predefiniowanych parametrów do identyfikacji obiektów od prostych wzorów geometrycznych naturalne sceny.

Sieć zwana RNN o wartościach zespolonych (cv-RNN)opiera się na parametrach amplituda i faza (każdy piksel jest reprezentowany jako liczba zespolona) i powtarzalna łączność (piksel wpływa na sąsiednie piksele).

Dzięki tej metodologii zespołowi nawet się to udało połącz swoją sieć z żywą komórką mózgową.

„Ten rodzaj podstawowego zrozumienia jest kluczowy w dalszym ciągu opracowujemy bardziej wyrafinowane systemy sztucznej inteligencji, którym możemy zaufać” – powiedział Roberto Budziński, zespół badawczy.

„To dopiero początek” – podsumowuje Muller. „Wierzymy, że to matematyczne zrozumienie może być przydatne znacznie dalej niż ten pierwszy przykład”.