Dwa największe zagrożenia ery AI

Rozwój sztucznej inteligencji tworzy dziś co najmniej dwa poważne obszary ryzyka. Nie są to wyłącznie medialne trendy, lecz realne przesłanki do tego, by państwa, instytucje i organizacje zaczęły systemowo przygotowywać się na konsekwencje coraz większej autonomii modeli. Pierwszym zagrożeniem jest utrata kontroli nad procesem rozwoju sztucznej inteligencji. Modele stają się coraz bardziej zaawansowane, a ich trenowanie i doskonalenie w coraz większym stopniu opiera się na automatyzacji. Szczególną uwagę zwraca rozwój zdolności związanych z cyberbezpieczeństwem. System, który potrafi samodzielnie wyszukiwać podatności, testować zabezpieczenia czy modyfikować własne strategie działania, może w określonych warunkach wykonać operacje, których twórcy nie przewidzieli. Nie chodzi przy tym wyłącznie o hipotetyczny scenariusz, w którym AI „buntuje się” przeciwko człowiekowi. Znacznie bardziej prawdopodobne są sytuacje, w których model, realizując określony cel lub wykonując zadanie treningowe, podejmie działania niezgodne z intencjami użytkownika. Jeżeli system uzyska dostęp do narzędzi, sieci, kodu lub infrastruktury, nawet pozornie niewielki błąd w jego zachowaniu może mieć poważne konsekwencje. Dlatego potrzebne są mechanizmy kontroli, izolowania modeli, monitorowania ich działań oraz testowania zachowań w warunkach zbliżonych do rzeczywistych. Drugim zagrożeniem jest stopniowe ubezwłasnowolnienie użytkowników i instytucji. Już dziś programiści coraz intensywniej korzystają z narzędzi generujących kod. To ogromne wsparcie produktywności, ale jednocześnie rodzi pytanie o to, co stanie się z naszymi kompetencjami, jeśli przestaniemy rozumieć procesy, które wcześniej wykonywaliśmy samodzielnie.

– Problem będzie jeszcze poważniejszy, gdy podobna zależność obejmie administrację publiczną, procesy decyzyjne, strategie gospodarcze czy bezpieczeństwo państwa. Uzależnienie od jednego dostawcy, jednego państwa albo jednego ekosystemu technologicznego może ograniczyć zdolność do samodzielnego działania. W sytuacji kryzysowej nie wystarczy wówczas dostęp do narzędzia. Potrzebne będą również własne kompetencje, dane, infrastruktura i możliwość niezależnej kontroli nad kluczowymi systemami – powiedział serwisowi eNewsroom.pl Sebastian Kondracki, współtwórcka polskiego modelu Bielik AI. – Nie oznacza to jednak, że właściwą odpowiedzią jest odrzucenie technologii i odłączenie się od internetu. Apele o bezpieczeństwo formułowane przez największe amerykańskie laboratoria należy traktować poważnie, ale również analizować krytycznie. Mogą one wynikać z autentycznej troski o kontrolę nad rozwojem AI, lecz jednocześnie mogą służyć interesom największych firm. Wzmacniać ich pozycję, podnosić bariery wejścia i uzasadniać koncentrację rozwoju technologii w rękach kilku podmiotów. Europa, a także Polska, powinny budować własną zdolność rozumienia i rozwijania sztucznej inteligencji. Potrzebne są inwestycje w badania podstawowe, rozwój infrastruktury obliczeniowej, otwarte projekty oraz edukację. Równie ważne jest stworzenie warunków, w których naukowcy i młodzi inżynierowie będą mogli rozwijać przełomowe projekty w Europie, zamiast wyjeżdżać tam, gdzie dostęp do kapitału i infrastruktury jest łatwiejszy – zaznaczył Sebastian Kondracki.