42ao⁝ Każda krzywa kiedyś spotyka rzeczywistość
Każda krzywa kiedyś spotyka rzeczywistość
Mam dość dużą nieufność do wykresów, które pokazują wzrost tak, jakby miał trwać bez końca. Szczególnie wtedy, gdy kilka dobrych lat traktujemy jak dowód na to, co stanie się dalej.
Widać to dziś w rozmowach o AI.
Skoro modele zrobiły ogromny postęp, łatwo uwierzyć w scenariusz, że damy więcej danych, więcej mocy obliczeniowej, większe modele i dostaniemy kolejne przełomy.
Problem w tym, że realne systemy rzadko działają jak slajdy.
Dobrym przykładem jest żart o dziecku, które podwoiło wagę w pierwszym miesiącu życia. Gdyby ten trend utrzymał się dalej, jako dorosły człowiek ważyłoby absurdalnie dużo. To pokazuje problem z naiwną ekstrapolacją.
I tu przydaje się systems thinking, czyli patrzenie nie tylko na sam wzrost, ale na cały system, który ten wzrost umożliwia albo ogranicza. Nie wystarczy patrzeć na jedną krzywą. Trzeba zobaczyć, co ten wzrost napędza, co go hamuje, gdzie pojawiają się opóźnienia i kiedy skala zaczyna tworzyć własne koszty.
Dane okazują się niespójne. Automatyzacja wymaga kontroli. Modele trzeba wdrożyć w stare procesy. Dochodzą regulacje, bezpieczeństwo, audyty, monitoring i odpowiedzialność za błędy.
To nie są przeszkody obok systemu. To jest właśnie system.
Dlatego nie przekonuje mnie zdanie, że AI będzie po prostu rosło wykładniczo.
Nie znaczy to, że AI się zatrzyma. Bardziej spodziewam się nierównego rozwoju.
Tam, gdzie łatwo sprawdzić wynik - w kodzie, testach, analizie dokumentów czy automatyzacji konkretnych zadań - postęp może być bardzo szybki. Jest krótki feedback: można wygenerować wynik, sprawdzić go, poprawić i powtórzyć.
Ale są obszary, gdzie świat jest mniej przewidywalny: strategia firmy, decyzje prawne, relacje z klientami, bezpieczeństwo, systemy produkcyjne i realna odpowiedzialność.
Tam nie wystarczy, że model brzmi przekonująco. Trzeba jeszcze wiedzieć, czy wynik jest prawdziwy, bezpieczny i czy można na nim oprzeć decyzję.
Dlatego nie chodzi tylko o większy model. Chodzi o cały system wokół modelu jak dane, workflowy, walidację, testy, monitoring, reguły bezpieczeństwa i człowieka w pętli tam, gdzie ryzyko jest zbyt duże.
Pytanie na dziś brzmi gdzie AI naprawdę przyspieszy pracę, a gdzie zacznie grzęznąć w kosztach, danych, odpowiedzialności i firmach, które nie potrafią zmienić sposobu działania?
Bo każda krzywa, która przez chwilę wygląda wykładniczo, prędzej czy później spotyka rzeczywistość.