Najbliższa przyszłość AI

[Walter]

(...)

Dyskutować możemy o tym, co tak naprawdę modelują te modele, poza językiem. Na pewno są zdolne do modelowania relacji logicznych. Natomiast w wielu sferach kuleją. Np. umiejętność analizowania obrazów na poziomie wyższym niż dostrzeganie elementów. Ostatnio Mistral wyprodukował mi coś takiego:



Według niego tam jest czerwo na obwódka Żaden z LLM-ów któremu zadałem to pytanie nie zwrócił od razu uwagi na najważniejszy problem z użyciem flagi narodowej (konflikt z MKS). A dopytywane, GPT i Mistral popełniły ten sam błąd, twierdząc, że flaga Mike z MKS to odwrócona flaga Szkocji, więc nie będzie kłopotu.

Moze wyjasnieniem twoich problemow bedzie tzw. Model Collapse?

To taki fenomen dotyczacy modeli AI (takich jak LLM od Mistral).

[equuleuss]

Kim są "uznajacy" AI za człowieka i jaką definicją  pojęcia "czlowiek" poslugiwali  się jako kryterium takiego "uznania" ?

Jaką definicją "świadomości" poslugują  się  transhumaniści w tych swoich zapędach?

Świadomość konkretnej osoby. Ktoś załóżmy decyduje się na transfer swojej świadomości do krzemowego / kwantowego świata i jest poddany procesowi pobierania świadomości a następnie przeniesienia jej do cyfrowego świata. Tam wskrzesza się i żyje wiecznie jako byt cyfrowy. Czyli osobliwość technologiczna, super AI z konkretną świadomością człowieka, indywidualną. 

Owszem, trzeba najpierw ogarnąć technologię na to pozwalającą i ogarnąć czym jest w istocie świadomość. Johnjoe MacFadden wystosował tezę że świadomość mieści się w elektromagnetycznym polu które jest generowane przez mózg. 

Jak już wspomniał Fciu, chodzi po prostu o wrażenie jakie sprawia AI. Rozmawiasz i masz wrażenie że gadasz z istotą ludzką, to wystarczy żeby zaliczyć test Turinga.

[Slup]

Nie jest dobrze. Intuicja podpowiada mi, że to całe AI źle się dla nas skończy.

[DziadBorowy]

Anthropic Institute opublikował raport jaki wpływ może mieć rozwój AI na gospodarkę.

https://youtu.be/7iHynLZMoEM

I jak dwa pierwsze scenariusze jeszcze nie są takie złe, to ten "ekstremalny" nie wygląda dobrze. W 2030 prognozuje 12% bezrobocie ogółem i prawie 18% bezrobocie wśród pracowników umysłowych. Ale to nie jest najbardziej niepokojące w tym scenariuszu. Udział pracy w dochodzi narodowym spada z 60% do 45%, udział kapitału wzrasta z 40 do 55%. Dochód z pracy ogółem wzrasta o 0,5%, dochód z kapitału wzrasta o 80%. Co oznacza, że po prostu cały zysk z wdrażania AI trafi do posiadaczy kapitału (wielkich koncernów). A to prognoza na 2030 - co będzie w 2034?

Optymiści snują tutaj wizje, że w takim scenariuszu kapitan państwo będzie musiał zmusić kapitał do jakiejś formy redystrybucji. Tylko, że w tym momencie kapitan państwo nie potrafi zmusić koncernów typu Meta do choć szczątkowej odpowiedzialności za treści które publikują, nie mówiąc już o jakimś większym opodatkowaniu ich zysków. Życzę zatem kapitanowi państwo powodzenia w zmuszaniu do dystrybucji jeszcze bardziej upasione BIG Techy, które będą trzymały łapę na jeszcze większej części realnej już, a nie wirtualnej gospodarki.

Oczywiście to tylko prognoza w dodatku rozważania oparte o najgorszy scenariusz. Ale jakoś tak w tym zakresie jestem pesymistą.

[Slup]

Przy najłagodniejszym (ale też środkowym) scenariuszu, w którym okazuje się, że LLM-y są umiarkowanie użyteczne, może dojść do wielkiego kryzysu gospodarczego. Ilość zainwestowanych w tę technologię zasobów sugeruje, że inwestorzy mają przekonanie, że ta technologia będzie miała transformacyjny i rewolucyjny charakter. Dojdzie do paniki i krachu, gdy się okaże, że tak nie jest.

Do tego dochodzą inne zagrożenia i problemy: dalszy rozkład relacji międzyludzkich, konieczność zmian sposobu edukacji oraz ewaluacji dokonań naukowych, zagrożenia związane z cyberbezpieczeństwem i bronią biologiczną. Jakaś organizacja terrorystyczna na bliskim wschodzie wykorzystywała LLM-y do zaprogramowania systemu naprowadzania pocisków. W sierpniu doszło do poważnych incydentów związanych z cyberbezpieczeństwem, gdy 800 agentów OpenAI "wydostało się" do internetu i włamało się na serwery niezależnego podmiotu. W ostatnich dniach miała miejsce kontrowersja związana z rozwiązaniem jednego z problemów milenijnych przez 10000 agentów OpenAI, którzy pracowali 80 godzin (to był olbrzymi nakład obliczeniowy). Doprowadziła do wielu dyskusji w tym dotyczącej tego, jaką rolę ma nauka jako działalność człowieka.

[DziadBorowy]

No właśnie mamy tutaj paradoks, że niezależnie od tego czy AI spełni oczekiwania czy też nie spełni oznacza to duże problemy. Scenariusz "AI to bańka" też oczywiście leży na stole. W końcu na AI zarabiają obecnie głównie producenci sprzętu a dostawcy modeli nieustannie pompują kasę w oczekiwaniu na zyski. Jednocześnie zdecydowana większość firm wdrażających rozwiązania AI nie widzi wzrostu produktywności. Gdzieś nawet czytałem o koncernie programistycznym, który ogranicza programistom środki na tokeny, bo się zrobiło za drogo. Kto wie czy nie będzie jakiś przeprosin z juniorami klepiącymi kod za półdarmo. Pocieszające jest to, że krach spowodowany przebiciem ewentualnej bańki AI miałby najpewniej mniejsze konsekencje niż ten z 2008 dotyczący sektora finansowego.

Niemniej przecież nawet nie zbliżyliśmy się do scenariuszy katastroficznych gdzie powstaje wreszcie jakieś silne AI i zaczyna psocić wbrew intencjom twórców.


Zaznaczam też, że nie jestem wrogiem AI to fajne i często pożyteczne narzędzie. Ale dotychczasowy model jej rozwoju oparty praktycznie wyłącznie o prawa wolnego rynku budzi mój głęboki niepokój.

[Slup]

Gwoli jasności – w większości spraw nie mam opinii. Przedstawiam argumenty, które znam i które wydają się częściowo przekonywujące. Przy czym często są przekonujące argumenty na rzecz przeciwstawnych stanowisk. Chciałbym tylko dopytać o dwie sprawy.

Pocieszające jest to, że krach spowodowany przebiciem ewentualnej bańki AI miałby najpewniej mniejsze konsekencje niż ten z 2008 dotyczący sektora finansowego.

Dlaczego tak uważasz?

Niemniej przecież nawet nie zbliżyliśmy się do scenariuszy katastroficznych gdzie powstaje wreszcie  jakieś silne AI i zaczyna psocić wbrew intencjom twórców.

A słyszałeś o tych incydentach związanych z cyberbezpieczeństwem z sierpnia? Nie wywołały Twojego niepokoju?

Będę unikał antropomorfizacji, bo to często prowadzi dyskusję w kierunku jakiś zagadnień filozoficznych, które są bardzo ciekawe, ale jednak poboczne wobec praktycznego kwestii bezpieczeństwa takich systemów. Zagrożeniem jest to, że pozwalamy działać autonomicznym systemom, które dysponują bardzo dużą mocą obliczeniową, skutecznie skompresowały znaczną część użytecznej wiedzy (i bezużytecznego śmiecia) i których działanie jest nieprzejrzyste.

Jeszcze tylko uzupełnię, dlaczego jest nieprzejrzyste. Pojedyncza instancja flagowego LLM-a jest cyfrową realizacją czegoś, co przypomina układ hydrauliczny, w którym są setki miliardów zaworów i rozgałęzień, które zostały ustawione przez algorytm uczący. Z powodu tej złożoności nie ma sposobu (przynajmniej na ogół), żeby przekonać się, jak taki układ zadziała na konkretnym wejściu, za wyjątkiem tego, żeby go po prostu na tym wejściu uruchomić. To nie jest tak, że mamy zgrabny model systemu, który pozwala nam (w miarę) dokładnie przewidywać, jak będzie się on zachowywał np. jeśli NASA wysyła sondę kosmiczną w kosmos, to wcześniej jest w stanie przewidzieć trajektorię jej lotu. W przypadku LLM-ów mamy do czynienia z sytuacją, w której wysyłamy sondę w kosmos i jaka będzie jej trajektoria, to się okaże empirycznie, gdy po prostu sonda ją wyznaczy swoim lotem.
Dochodzi jeszcze dodatkowa złożoność, bo korporacje zaczęły uruchamiać setki lub tysiące instancji takich systemów, które mogą się ze sobą komunikować i w ramach wzajemnych interakcji przetwarzać wejście.

To przypomina ucznia czarnoksiężnika.

[DziadBorowy]

Dlaczego tak uważasz?

Bo nie każdy kryzys giełdowy przekłada się na kryzys w realnej gospodarce. Kryzys z 2008 roku zagroził światowemu systemowi finansowemu. Masa niespłaconych kredytów, upadłości banków, określone działania banków centralnych. Co znowu ograniczało udzielanie kredytów. Firny nie biorą kredytów, zwalniają ludzi. Ludzie nie biorą kredytów spada konsumpcja. Spada konsumpcja firmy obrywają po dupie. Takie błędne koło. Jeżeli banki przestają finansować gospodarkę to masz receptę na kryzys.

Natomiast skutki pęknięcia bańki na dotkomach w 2001 były już mocno ograniczone. Inwestorzy stracili ale gospodarka mocno nie ucierpiała. Tak samo będzie jeżeli okaże się, że AI nie dowiezie obietnic. Stracą głównie Ci którzy zainwestowali w akcje firm związanych z AI. (a inni zarobią) Realna gospodarka nawet być może dostałaby stymulacji, jeżeli firmy, które zwalniały lub ograniczały zatrudnienie z powodu AI wznowiłby rekrutację.

A słyszałeś o tych incydentach związanych z cyberbezpieczeństwem z sierpnia? Nie wywołały Twojego niepokoju?

Słyszałem i wywołały. Zresztą nie ma tygodnia o jakiś niepokojących doniesieniach. To agent AI składa samodzielnie podanie o pracę (ujawniając, że jest agentem) to inny agent AI śledzi kogoś za pomocą drona. Wszystko to budzi niepokój.

Ale nie poruszałem tego tematu bo skupiłem się na skutkach gospodarczych.


Edit.

Teraz załapałem:

Niemniej przecież nawet nie zbliżyliśmy się do scenariuszy katastroficznych

Mi chodziło, że nie zbliżyliśmy się tu w tej naszej krótkiej dyskusji do omawiania takich scenariuszy, a nie, że rozwój AI do tego się nie zbliżył.

[Baptiste]

Jednocześnie zdecydowana większość firm wdrażających rozwiązania AI nie widzi wzrostu produktywności. Gdzieś nawet czytałem o koncernie programistycznym, który ogranicza programistom środki na tokeny, bo się zrobiło za drogo. Kto wie czy nie będzie jakiś przeprosin z juniorami klepiącymi kod za półdarmo.

Do tej pory też tak myślałem, ale pojawiają się już przykłady zgoła odmienne. Od długiego czasu śledzę sobie aktywność internetową jednego z projektantów instalacji budowlanych, który ma własną działalność ale oprócz tego dzielił się niegdyś hobbystycznie swoją wiedzą na blogu. Facet ostatnimi czasy wszedł mocno w AI. No i okazało się, że cholernie drogie, profesjonalne oprogramowanie międzynarodowych korpo w sporym stopniu zastąpił już własnymi nakładkami stworzonymi przy wsparciu AI. Mając przy tym praktycznie zerową wiedzę dotyczącą programowania. Dla jego działalności to są realne oszczędności liczone rocznie (jak szacuję) w dziesiątkach tysięcy złotych. Nie zatrzymuje się i wdraża to AI także w innych obszarach. Aktywnie popularyzuje ten kierunek w swojej branży i kto wie czy inni nie pójdą w jego ślady. To są jednoosobowe lub kilkuosobowe działalności gospodarcze. Dodatkowe licencje, nakładki do programów, itd. to dla takich pracowni znaczny koszt. Tymczasem pojawiła się dla nich szansa na przynajmniej częściowe uniezależnienie od dużych monopolistów.

Jeśli jednak branża AI uzależni od siebie ludzi to widzę tutaj możliwość budowy kolejnego monopolu według znanego scenariusza. Na początku za darmo, więcej za niewielkie kwoty, a gdy już nie będzie odwrotu to wtedy opłaty z grubej rury.

[DziadBorowy]

Są też takie przypadki. Brak wzrostu produktywności zgłasza większość, ale nie wszyscy. Ponad to w opisywanym przez Ciebie przypadku w tej firmie nie masz sytuacji w których zastępujesz ludzi za pomocą AI ale zastępujesz narzędzia nie oparte o AI na takie z niej korzystające.

Natomiast to co piszesz na końcu jest bardzo prawdopodobnym scenariuszem i można się spodziewać, że z czasem darmowe plany będą oferowały coraz mniej a ceny abonamentów płatnych będą powoli rosły.

[Kontestator]

Jeśli jednak branża AI uzależni od siebie ludzi to widzę tutaj możliwość budowy kolejnego monopolu według znanego scenariusza. Na początku za darmo, więcej za niewielkie kwoty, a gdy już nie będzie odwrotu to wtedy opłaty z grubej rury.

Oprócz tego, że uzależnia to kiedyś ktoś mógł użyć sobie nawet taniego laptopa i dłubać w jakimś C# i dostać w tym pracę. Nie trzeba było posiadać kapitału. Branżą IT była dosyć bliska merytokracji.

A na ten moment wygląda to tak, że największe szanse będą mieli ludzie którzy mają dostęp do ogromnej liczby tokenów aby móc lecieć z niekończącymi się pętlami. Dostęp do kapitału będzie coraz bardziej decydować czy ktoś dostanie się do branży. Przynajmniej na ten moment.

[Slup]

Jeśli chodzi o rozwój oprogramowania, który wymaga jednak przemyślenia architektury przez programistę, to myślę, że wcale nie potrzeba do tego potężnych modeli. Z mojej praktyki wynika, że w takich sytuacjach często mniejsze modele radzą sobie porównywalnie do flagowych (a mam dostęp do Astry, GPT-5.6 Sol, Fable 5.1 i Opusa 5.0). Jeśli ktoś jest takim czystym vibecoderem, to słaby model mu nie będzie wystarczał (a w każdym razie nie na długo). Nie mówię też o sytuacji, w której trzeba przepisać setki tysięcy linii kodu z języka A na język B. Do tego celu można rzeczywiście uruchomić wiele instancji najsilniejszych modeli, a potem jeszcze poprawiać i testować. To jednak ogromne przedsięwzięcie, które ma charakter komercyjny i stoi za nim jakiś duży podmiot korporacyjny.

[Kontestator]

Swoją drogą czy już możemy mówić o kapitulacji Europy? Nawet Mistral jako domyślny model ustawił chiński GLM 5.3 hostowany u siebie w swojej aplikacji Vibe.

[Slup]

Słyszałem, że Mistral ma rozsądne podejście do AI. Stawia na wdrożenia i proliferację tej technologii. Chyba odnotowuje też faktyczne zyski. Modele są wyraźnie gorsze niż flagowe, ale zastanawiałem się nad wykupieniem subskrypcji.

Znam sporo aktywnych naukowo matematyków i nastroje nie są zbyt dobre. To, co się ostatnio dzieje w związku użyciem AI w matematyce, jest bardzo smutne. Nie wyobrażam sobie, jak np. oceniać doktorat z matematyki i jak bardzo ta cała sytuacja jest demotywująca dla młodych (i starszych) uczonych. Zresztą to samo dotyczy też innych bardziej apriorycznych dziedzin nauki np. informatyki, fizyki teoretycznej, biomatematyki i bardziej zmatematyzowanej części chemii.

Ne mam wątpliwości, że osiągnięto AGI, chociaż moim zdaniem już GPT 3 lub 3.5 miał cechy AGI.

[Kontestator]

Tak coraz częściej się o tym słyszy ale co ciekawe nadal się też słyszy, że potrzebujemy imigrantów gdzie szykuje nam się fala bezrobotnych ludzi, którzy raczej nie powinni mieć problemów z przekwalifikowaniem się.

Także nawet narracja nie "nadąża" nad rozwojem technologicznym

Ludzie którzy poświecili lata na naukę czegoś a nagle okaże się, że ich umiejętności są tak potrzebne jak umiejętności latarników miejskich.