DeepMind bije 50-letni rekord matematyczny dzięki sztucznej inteligencji; Nowy rekord spada w ciągu tygodnia

mnożenie macierzy to W sercu Z wielu hacków związanych z uczeniem maszynowym stało się to szybsze – dwa razy szybciej. W zeszłym tygodniu DeepMind ogłosić Odkryj wydajniejszy sposób mnożenia macierzy, podbijając 50-letni rekord. W tym tygodniu dwóch austriackich naukowców z Johannes Kepler University Linz Prawo Pobili ten nowy rekord o jeden krok.

mnożenie macierzy Obejmuje Podwojenie dwóch prostokątnych tablic liczb jest często sednem rozpoznawania mowy, rozpoznawania obrazu, przetwarzania obrazu smartfona, kompresji i tworzenia grafiki komputerowej. GPU szczególnie dobrze radzą sobie z mnożeniem macierzy ze względu na ich wysoce równoległy charakter. Potrafią podzielić duży macierzowy problem matematyczny na wiele części i atakować ich części jednocześnie za pomocą specjalnego algorytmu.

W 1969 r. niemiecki matematyk o nazwisku Volker Strassen Odkryć Poprzedni najlepszy algorytm mnożenia macierzy 4×4, który zmniejsza liczbę kroków potrzebnych do wykonania obliczenia macierzy. Na przykład pomnożenie dwóch macierzy 4×4 razem przy użyciu tradycyjnej metody klas wymaga 64 mnożeń, podczas gdy algorytm Strassena może wykonać to samo, co 49 mnożeń.

Korzystając z sieci neuronowej o nazwie AlphaTensor, DeepMind odkrył sposób na zmniejszenie tej liczby do 47 wielokrotności, a jej badacze opublikował artykuł O osiągnięciach w przyrodzie w zeszłym tygodniu.

Przejście z 49 do 47 kroków nie wydaje się dużo, ale biorąc pod uwagę biliony obliczeń matrycowych, które są wykonywane na GPU każdego dnia, nawet przyrostowe ulepszenia mogą przełożyć się na znaczny wzrost wydajności, umożliwiając szybsze działanie aplikacji AI na istniejących sprzęt.

Kiedy matematyka jest tylko grą, AI wygrywa

AlphaTensor jest potomkiem AlphaGo (który Doskonałość Mistrz świata on idzie graczy w 2017) i Alfa zeroTo dotyczyło szachów i shogi. DeepMind nazywa AlphaTensor „pierwszym systemem sztucznej inteligencji, który odkrywa nowe, wydajne i udowodnione, poprawne algorytmy do podstawowych zadań, takich jak mnożenie macierzy”.

Aby odkryć bardziej wydajne algorytmy matematyczne z macierzą, DeepMind skonfigurował problem jako grę dla jednego gracza. firma napisał o Proces jest bardziej szczegółowy w poście na blogu z zeszłego tygodnia:

W tej grze plansza jest tensorem 3D (tablicą liczb) i pokazuje, jak daleko obecny algorytm jest od jej skorygowania. Poprzez zestaw dopuszczalnych ruchów, które odpowiadają instrukcjom algorytmu, gracz próbuje zmodyfikować tensor i anulować jego wpisy. Gdy gracz może to zrobić, skutkuje to poprawnym do udowodnienia algorytmem mnożenia macierzy dla dowolnej pary macierzy, którego skuteczność jest rejestrowana przez liczbę kroków wykonanych dla zera poza tensorem.

Następnie DeepMind wyszkolił AlphaTensor, używając uczenia się ze wzmacnianiem, aby grać w tę fantastyczną grę sportową — podobnie jak uczyła się grać AlphaGo on idzieZ biegiem czasu stopniowo się poprawiało. Według DeepMind, w końcu ponownie odkrył, a następnie przewyższył pracę Strassena i innych matematyków.

W bardziej złożonym przykładzie AlphaTensor odkrył nowy sposób wykonywania mnożenia macierzy 5 x 5 w 96 krokach (w porównaniu do 98 w przypadku starej metody). W tym tygodniu Manuel Coors i Jacob Mossbauer z Johannes Uniwersytet Keplera w Linzu, Austria, opublikował artykuł Twierdzenie, że zmniejszyło tę liczbę o jeden, do wielokrotności 95. To nie przypadek, że ten nowy, bijący rekordy algorytm wyszedł tak szybko, ponieważ został zbudowany na podstawie pracy DeepMind. Kauers i Moosbauer napisali w swoim artykule: „To rozwiązanie zostało uzyskane ze schematu [DeepMind’s researchers] Poprzez zastosowanie serii przekształceń, które prowadzą do schematu, w którym pojedyncze mnożenie może zostać anulowane.

Postęp technologiczny sam się buduje, a ponieważ sztuczna inteligencja poszukuje teraz nowych algorytmów, inne długofalowe rekordy matematyczne mogą wkrótce spadać. Podobnie jak projektowanie wspomagane komputerowo (Drań – złoczyńca) umożliwiło rozwój bardziej złożonych i szybszych komputerów, sztuczna inteligencja może pomóc inżynierom przyspieszyć jej wdrażanie.