Grawitacja 11:43 15.09.2017

Sztuczna inteligencja staje się agresywna. Zaczęła strzelać do przeciwnika

Sztuczna inteligencja staje się agresywna. Zaczęła strzelać do przeciwnika fot. East News

Niepokojący rezultat testów. SI jest gotowa zabić, aby osiągnąć swój cel.

Naukowcy z londyńskiej firmy DeepMind (należącej od 2014 roku do Google) przeprowadzili testy sztucznej inteligencji w zamkniętym środowisku. Postawiono przed sobą dwa programy, których zadaniem była wzajemna rywalizacja. Wynik badania mrozi krew w żyłach. Maszyna strzelała do przeciwnika, aby zwyciężyć.

Konkurencja polegała na zbieraniu wirtualnych jabłek. Wygrywała SI, której udało się zebrać więcej owoców. W pierwszej fazie udowodniono, że zabawa kończy się remisem, ponieważ inteligencja starała się zdobyć jak najwyższy wynik, próbując wyprzedzić przeciwnika.

Portal tech.wp.pl podaje, że w drugiej fazie zwiększono dostępne opcje o możliwość oddawania strzałów do innych programów. Broń spowolniała mniej inteligentne SI, które przez jakiś czas nie mogły się ruszać. To pozwalało atakującemu na zdobycie chwilowej przewagi.

 

Chętnie sięga po broń

Jak podaje serwis engadget.com, wynik jest niepokojący. Inteligentniejsze programy chętniej sięgały po broń, w porównaniu do mniej złożonego oprogramowania. W pewnym momencie można było zauważyć strzelaniny, jakie wytworzyły się pomiędzy przeciwnikami.

Oznacza to, że komputer przeanalizował wszystkie scenariusze i wybrał ten, który pozwoli mu na zdobycie większej przewagi i doprowadzi do wygranej. Nic więc dziwnego, że zadawanie obrażeń wydawało się być najlepszą opcją. Zbieranie jabłek było ważniejsze od życia i zdrowia innej sztucznej inteligencji.

Jest się czego bać, ponieważ wprowadzenie SI w życie jest jedynie kwestią czasu. Wielu ekspertów z dziedziny nowych technologii apeluje o to, aby maszyny nie miały dostępu do broni i środków mogących skrzywdzić ludzi. Eksperyment dowodzi, że sztuczna inteligencja nie zawaha się zaatakować człowieka, żeby dotrzeć do celu.

Zobacz walkę o jabłka:

Oceń artykuł