Szefowie AI chcą zwolnić tempo rozwoju modeli. Co to oznacza dla rynku?

Dla rynku to ważny sygnał: ryzyko związane z AI zaczyna dotyczyć nie tylko technologii, ale także wycen spółek, nakładów inwestycyjnych i przyszłych regulacji.

Amodei nie proponuje zatrzymania rozwoju sztucznej inteligencji. Jego zdaniem firmy powinny jednak ograniczyć tempo zwiększania możliwości najbardziej zaawansowanych modeli do momentu, gdy będą w stanie lepiej ocenić ich bezpieczeństwo.

Jednym z głównych powodów obaw jest rosnąca zdolność AI do wspierania tworzenia kolejnych generacji AI, czyli de facto doskonalenia samych siebie. Czy jesteśmy blisko realizacji koncepcji z filmów science fiction, gdzie maszyny tworzą maszyny bez udziału człowieka?

Reklama

Modele są coraz lepsze w programowaniu, analizie badań i projektowaniu eksperymentów. W praktyce oznacza to, że sztuczna inteligencja zaczyna pomagać inżynierom budować jeszcze bardziej zaawansowane systemy.

Amodei określa ten mechanizm jako recursive self-improvement, czyli rekurencyjne samodoskonalenie. Problem pojawiłby się wtedy, gdyby zdolności modeli zaczęły rosnąć szybciej niż wiedza o tym, jak je kontrolować. Pytanie, czy już tak się nie dzieje?

Autonomiczni agenci zwiększają ryzyko

Drugim źródłem obaw są tzw. agenci AI. W przeciwieństwie do zwykłego chatbota, który odpowiada na pytania użytkownika, agent może samodzielnie wykonywać serię działań: pisać kod, korzystać z narzędzi, przeszukiwać sieć, uruchamiać programy czy komunikować się z innymi systemami. Jeżeli wiele takich agentów działa jednocześnie, powstaje tzw. multi-agent system lub rój agentów.

To właśnie w takich systemach rośnie znaczenie problemu kontroli. Nawet niewielkie błędy lub niepożądane zachowania mogą zostać zwielokrotnione, gdy tysiące autonomicznych procesów wykonują zadania w tym samym czasie. Szczególne znaczenie ma cyberbezpieczeństwo. Bardzo zaawansowane modele mogłyby automatyzować wyszukiwanie luk w oprogramowaniu, przygotowywać kod ataków i prowadzić operacje na dużą skalę.

Amodei obawia się więc nie tyle dzisiejszych chatbotów, ile systemów, które będą jednocześnie bardziej autonomiczne, szybsze i zdolne do samodzielnego wykonywania złożonych zadań.

Firmy miałyby udowodnić, że modele są bezpieczne

Propozycja Anthropica zakłada stworzenie punktów kontrolnych przed kolejnymi dużymi skokami możliwości AI. Jeżeli model osiągnąłby określony poziom kompetencji, producent musiałby wcześniej wykazać, że posiada odpowiednie zabezpieczenia. Dotyczyłoby to m.in. testów modeli, cyberbezpieczeństwa, monitorowania autonomicznych agentów oraz tzw. interpretability, czyli prób zrozumienia, co dzieje się wewnątrz sieci neuronowej i dlaczego model podejmuje określone decyzje. Amodei proponuje również niezależne audyty laboratoriów AI.

W dalszej perspektywie największe firmy – OpenAI, Anthropic, Google czy xAI – mogłyby uzgodnić wspólne standardy rozwoju najbardziej zaawansowanych modeli.

Dlaczego to ważne dla inwestorów?

Dotychczas rynek zakładał przede wszystkim jeden scenariusz: możliwości AI będą szybko rosły, a wraz z nimi będą rosły inwestycje w centra danych, półprzewodniki i infrastrukturę energetyczną. Apel liderów branży pokazuje jednak, że pojawia się alternatywny scenariusz. Rozwój AI może zostać ograniczony nie przez brak technologii, lecz przez bezpieczeństwo i regulacje. To tworzy kilka istotnych ryzyk dla rynku.

Pierwszym jest ryzyko niższych nakładów na infrastrukturę AI. Jeżeli firmy będą rzadziej trenować nowe, znacznie większe modele, tempo wzrostu popytu na GPU, serwery i centra danych może być niższe od obecnych oczekiwań inwestorów. Byłoby to istotne przede wszystkim dla producentów półprzewodników i firm korzystających na boomie infrastrukturalnym.

Drugie zagrożenie to presja na wyceny. Wiele spółek technologicznych jest obecnie wycenianych przy założeniu bardzo szybkiego wzrostu rynku AI. Nawet niewielkie obniżenie prognoz dotyczących tempa inwestycji może więc prowadzić do mocnych zmian kursów.

Trzecim ryzykiem są regulacje. Jeżeli rządy uznają najbardziej zaawansowane modele za technologię wymagającą specjalnego nadzoru, firmy mogą zostać objęte obowiązkowymi testami, licencjami lub audytami. To zwiększyłoby koszty i mogłoby wydłużyć czas wprowadzania nowych modeli na rynek.

Czwarte ryzyko dotyczy odpowiedzialności. Jeśli autonomiczny system AI doprowadzi do poważnego cyberataku lub strat finansowych, pojawi się pytanie, kto ponosi odpowiedzialność: producent modelu, dostawca chmury czy firma wykorzystująca AI. Może to zwiększyć koszty ubezpieczenia oraz ryzyko prawne całej branży.

Poniedziałkowa reakcja rynku? ROUNDHILL MEMORY ETF (XNYS:DRAM) grupujący producentów pamięci komputerowych stracił wczoraj ponad 7%.

Nie tylko ryzyka

Spowolnienie wyścigu nie musi jednak oznaczać końca boomu AI. Może raczej zmienić strukturę rynku. Więcej kapitału mogłoby trafić do firm zajmujących się cyberbezpieczeństwem, testowaniem modeli, monitoringiem agentów AI, audytem i bezpieczeństwem infrastruktury.

Wczorajsza reakcja rynku? FIRST TRUST NASDAQ (XNAS:CIBR) grupujący firmy zajmujące się cyberbezpieczeństwem zyskał prawie 7%.

Rosnące wymagania regulacyjne mogą również działać na korzyść największych graczy. OpenAI, Google, Microsoft czy Anthropic mają znacznie większe zasoby potrzebne do przeprowadzania kosztownych testów i audytów niż małe start-upy.

Paradoksalnie zatem bardziej restrykcyjne zasady mogą zwiększyć bariery wejścia i dodatkowo skoncentrować rynek. Pytanie więc, czy te pomysły podyktowane są troską o bezpieczeństwo, czy chęcią zwiększenia przewagi konkurencyjnej?

Najważniejsze pytanie dla rynku

Dla inwestorów kluczowe nie jest dziś to, czy rozwój AI zostanie zatrzymany. Taki scenariusz wydaje się mało prawdopodobny. Znacznie ważniejsze jest pytanie o tempo rozwoju. Jeżeli bezpieczeństwo stanie się jednym z głównych ograniczeń dla kolejnych generacji modeli, rynek może zacząć inaczej wyceniać cały łańcuch związany z AI – od producentów chipów, przez centra danych, po największe spółki technologiczne.

Zapisz się na Newsletter

Bądźmy w kontakcie! Prosto na Twojego maila będziemy wysyłać skrót najważniejszych informacji ze świata finansów, powiadomienia o nowościach rynkowych, najnowsze oceny i raporty oraz codzienne notowania wybranych przez Ciebie funduszy inwestycyjnych.

Zapisz się

Dotychczas dominowało założenie, że im większa moc obliczeniowa, tym szybszy rozwój AI. Teraz może dojść do tego drugi warunek: nowy model musi być nie tylko mocniejszy, ale również wystarczająco bezpieczny, by można było go wdrożyć. Przy dużej konkurencji ze strony Chin wprowadzenie takich regulacyjnych ograniczeń w USA wydaje się jednak bardzo mało prawdopodobne. Prezydent Trump już wczoraj bardzo ostro zaatakował nasilające się apele o spowolnienie rozwoju sztucznej inteligencji i wprowadzenie silniejszych regulacji. Według niego ostrzeżenia przed AI oraz sprzeciw wobec budowy centrów danych są w dużej mierze „oszustwem”, które może osłabić przewagę technologiczną USA nad Chinami.

Sądzę, że już dziś zobaczymy reakcje rynków, która odpowie nam na pytanie, czy inwestorzy przejęli się scenariuszem spowolnienia rozwoju AI. Osobiście uważam, że wczorajsza panika była spowodowana nałożeniem się kilku czynników, które spowodowały gwałtowną emocjonalną reakcję, która nie będzie kontynuowana. Jednak obawy związane z regulacjami mogą stać się już częścią całego ekosystemu związanego z rozwojem AI, co zwiększa ryzyko inwestycji w ten obszar.