Wschodzący superinteligencja firmy10 min read

Jako startup stale pracujemy nad nowymi technikami, aby biegać szybciej i przesuwać granice. Kiedy wypuściliśmy OpenClaw/Hermes, byliśmy pierwszymi, którzy go przyjęli. Używaliśmy go razem z wieloma innymi narzędziami AI.

W miarę rozwoju tych narzędzi oraz modeli, na których się opierają, zauważyliśmy coś: nie tylko robimy postępy szybciej, ale zaczęliśmy pracować inaczej. Z każdą rundą ci samouczący się agenci robią postępy i uczą się. Obecnie używamy „Super Agenta” na dedykowanej maszynie (instancja VPS działająca na DigitalOcean) przy użyciu GPT-5.6-sol w najwyższym stanie wnioskowania. Niektórzy z innych agentów, których używamy, korzystają z innych uprzęży i ​​modeli agentów, ale na tym chciałbym się skupić w tym artykule.

Zauważyliśmy, że większość firm nie wykorzystuje tego typu autonomicznego agenta do obsługi krytycznych przepływów w swojej firmie, co naprawdę je spowalnia. W rzeczywistości wiele z nich korzysta z mniejszych, bardziej osobistych agentów: agentów kodujących, takich jak Codex/ClaudeCode, lub agentów asystentów, takich jak Work/Cowork/Copilot. Wykonują zadania na lokalnych maszynach i urządzeniach, a podstawową luką, jaką posiadają, jest brak wiedzy. Doprowadziło to do powstania zupełnie nowego przemysłu systemów „drugiego mózgu”, które zasadniczo próbują stworzyć wykres wiedzy, który będzie współdzielony między rozproszonymi agentami. Firmy, które działają w ten sposób, często ogłaszają, że mają agentów liczących dziesiątki, setki, a w skrajnych przypadkach tysiące. Zasadniczo oznacza to, że każdy pracownik ma jednego lub więcej ograniczony agentów wykonujących dla nich zadania.

Fakt, że agenci mieli wcześniej kontakt z danymi ze świata rzeczywistego, skargami użytkowników i naszym kodem, sprawił, że byli znacznie bardziej zwinni i mądrzejsi niż jakikolwiek inny agent osobisty, z którym współpracujemy.

Właśnie zdaliśmy sobie sprawę, że nasi najmądrzejsi agenci stają się superwywiadem firmy.

Dla jasności: nie twierdzę, że istnieje świadomość, AGI ani nic podobnego. Proponuję, aby byli oni zupełnie nowym podmiotem w schemacie organizacyjnym firmy.

Czym jest superinteligencja firmy?

Kiedy jeden agent zacznie się wyróżniać, pod warunkiem, że będzie skupiony, może stać się superinteligentną jednostką. Jak to definiujemy?

Powiedziałbym, że w większości przypadków agenci mają obecnie przewagę nad ludźmi przede wszystkim w postaci cierpliwości i wytrwałości, a nie inteligencji. Jednak w miarę ulepszania modeli (GPT 5.6 sol i Opus 5 są naprawdę dobre!) zaczęliśmy widzieć wyłanianie się czegoś nowego, czegoś, co przewyższa to, co mogliśmy zrobić – nie tylko pod względem szybkości, ale także działania, którego ludzie nie są w stanie zrobić.

Zaczęło się od tego, że zapewniliśmy naszemu agentowi mnóstwo możliwości w zakresie danych (Mixpanel) i analityki biznesowej oraz dostępu do danych (błędy w Sentry, finanse w Baremetrics, ślady AI w LangSmith). Następnie wystawiliśmy go na błędy użytkowników (błędy Sentry) i raporty skarg użytkowników. Wreszcie umożliwiliśmy mu dostęp do agentów kodujących i naszych głównych repozytoriów na GitHubie. Nie ma dostępu z zewnątrz za pośrednictwem poczty elektronicznej ani jakiejkolwiek interakcji z użytkownikiem, ale obserwując, jak zachowujemy się w tych tematach, zaczął rozumieć pewne rzeczy. Dzięki tym interakcjom monitoruje teraz, co stanowi blokadę, czym jest krytyczne myślenie, jak działa nasza firma i jakie są SOP (standardowe procedury operacyjne). Robi to metodą prób i błędów i wydaje się, że regularnie zdobywa inteligencję.

W tym momencie zaczęliśmy zadawać mu kilka interesujących pytań. Na początku wszystko wymagało podwójnego sprawdzenia i krytyki, gdy sprawy nie zostały odpowiednio wyjaśnione lub wnioski brzmiały podejrzanie. Nadal to robi od czasu do czasu, na przykład zapytałem go o regresje i otrzymałem zaszumione dane o błędach, ale jest to okazja do nauki: nauczyłem go mojej definicji regresji i teraz „łapie”.

Kiedy użytkownicy narzekają lub gdy pojawiają się błędy, aktywnie generujemy poprawki. Oznacza to, że każdego ranka nasi inżynierowie nie muszą sprawdzać regresji, muszą jedynie zdecydować, czy PR jest dobry, czy nie. Na początku były to jednorazowe PR, które nie spełniały naszych standardów jakości kodowania, więc inżynierowie informowali, co jest nie tak, lub po prostu sami przerabiali problem. Wraz ze wzrostem zaufania wiele z tych poprawek zaczęło być automatycznie łączonych z bazą kodu. Agent ocenia również stopień złożoności PR i pewność, że jest gotowy do jego połączenia. Nie jesteśmy na etapie, w którym te PR zostaną automatycznie połączone, ale widzę tam ścieżkę i zakładam, że będziemy tam za miesiąc lub dwa.

Ale tak naprawdę nie to czyni agenta superinteligentnym. Chodzi o to, że teraz, gdy inżynierowie i zarząd firmy zaufali agentowi, zaczynają delegować mu pracę i zadawać mu naprawdę ciekawe pytania. Robi to za nich, a nie jak wyszukiwanie w Google, ale z zaawansowaną wiedzą o biznesie, co daje mu wyjątkową przewagę. To samo dotyczy przekazywania mu wiedzy o większej liczbie części przedsiębiorstwa. OpenClaw i HermesAgent historycznie uległyby awarii w pewnym momencie, gdy ich kontekst historyczny przekraczał ich zdolność do przetwarzania informacji. Nastąpiło tego typu załamanie, którego skutkiem był drastyczny spadek inteligencji, zapamiętywania i jakości ich pracy. Nasze doświadczenia z Hermes Agent są teraz zupełnie inne: pamięć konwersacyjna wynosi obecnie 3 GB i rośnie wykładniczo, a jej inteligencja wyraźnie poprawia się z biegiem czasu.

Nie oznacza to, że jest idealny, zdarzają się regresje i czasami trzeba mu przypomnieć, aby zachowywał się w określony sposób lub określić, dlaczego nie zachowuje się zgodnie z oczekiwaniami w określonym kontekście lub nie reaguje poprawnie na innego agenta, który żąda od niego danych lub działań. Ale dochodzimy do tego.

Nieoczekiwany efekt uboczny ochrony gałęzi przyniósł nam kolejny postęp. Ideą ochrony gałęzi jest to, że co najmniej dwie osoby widzą PR, zanim trafi on do produkcji, co zmniejsza ryzyko przedostania się złego (lub nawet nikczemnego) kodu do systemu. Coraz trudniej jest to zrobić właściwie w przypadku nowych agentów kodujących. Wraz ze wzrostem prędkości, prawie niemożliwe jest dokładne ręczne sprawdzenie szybkości tworzenia nowych PR i ilości kodu. Wielu agentów różnych dostawców sprawdza Prs pod kątem błędów, problemów związanych z bezpieczeństwem i problemami architektonicznymi. Jednakże ochrona oddziałów pozostaje, więc pozwoliłem, aby nasz superinteligentny agent był ostatecznym zatwierdzającym PR.

W połowie spodziewaliśmy się, że wyniki będą przyziemne. W końcu te PR przeszły recenzje, testy, recenzje bezpieczeństwa, zewnętrzne recenzje GitHubCopilot i CodeRabbit lokalnych agentów kodujących i zostały całkowicie zatwierdzone. Ale nasz agent nadal dziurawił te PR. Znaleziono naprawdę interesujące przypadki brzegowe, które przeoczyliśmy, bezpieczeństwo, jakość oprogramowania i błędy architektoniczne, których nie wzięliśmy pod uwagę. Używa tych samych modeli, co wszyscy inni recenzenci, dlaczego odkrywa rzeczy, których nie zauważyli inni?

Wiąże się to z wiedzą i doświadczeniem. Uprząż Hermes Agent w połączeniu z wiedzą zgromadzoną przez agenta tworzy nowy typ superinteligentnego agenta, jakiego wcześniej nie widzieliśmy. Dlatego zbadaliśmy tę kwestię głębiej i wprowadziliśmy obowiązek przeglądania agentów nie tylko dla ludzi pracujących w systemie, ale teraz służy on jako punkt odniesienia dla innych, mniej inteligentnych agentów!

Agent ten może teraz zapewnić nam krytyczne myślenie, które wcześniej widzieliśmy tylko u ludzi, ale poparte rzeczywistymi danymi klientów, opiniami, naszym kodem i głębokim zrozumieniem produktu.

Jeśli rozwiniemy tę kwestię i damy mu więcej danych do wykorzystania, skalujemy sprzęt i pamięć, zaobserwujemy wykładniczy wzrost wydajności. Myślę, że modelki nadal to powstrzymują. Kiedy przejdziemy do następnej fazy tej gry, być może poprzez GPT-6, wyniki będą znacznie bardziej interesujące. W miarę gromadzenia coraz większej ilości danych dawaj agentom więcej zadań do wykonania i bardziej im ufaj.

Czym różni się to od drugiego mózgu Karpathy’ego opartego na Wiki?

Tym, co odróżnia to podejście od innych podejść, jest to, że zamiast zajmować się wiedzą współdzieloną, wiedza superagenta jest przechowywana lokalnie. Możemy poprosić go o zachowanie własnej pamięci i zrozumienia świata w repozytorium, co pozwala nam na jego powielanie i monitorowanie, ale ostatecznie jest to nie na temat dzielenia się wiedzą i umiejętnościami oraz współpracy. To wyjątkowa baza wiedzy, która wraz z narzędziami i dostępem do świata pozwala bezpośrednio odpowiedzieć na Twoje pytania. Nie prosisz swojego agenta, aby rozpracował tę kwestię na podstawie wspólnej wiedzy, albo ty, albo twoi agenci zadajecie pytania superinteligentnemu agentowi. Co zaskakujące, obecnie działa to dobrze dla nas do tego stopnia, że ​​stale zwiększamy dostęp i zasięg agenta, ale jeszcze nie zaobserwowaliśmy w rezultacie degradacji wiedzy lub inteligencji.

Uwaga: nie udostępniamy agentowi poufnych informacji ani funkcji. Nie ma bezpośredniego dostępu do naszych systemów bankowych, opłat ani rozliczeń. Jest także odizolowana od świata i nie ma dostępu do poczty elektronicznej ani kanałów zewnętrznych. W miarę zdobywania doświadczenia i zaufania nie sądzę, że jesteśmy daleko od zniesienia również tych ograniczeń.