Emergent selskapssuperintelligens9 min read

Som startup jobber vi hele tiden med nye teknikker for å løpe raskere og flytte grensen. Da OpenClaw/Hermes ble lansert, var vi en tidlig bruker. Vi brukte det sammen med mange andre AI-verktøy.

Etter hvert som disse verktøyene, så vel som modellene de er avhengige av, avanserte, la vi merke til noe: vi går ikke bare raskere, vi har begynt å jobbe annerledes. Med hver runde går disse selvforbedrende selvlæringsagentene videre og lærer. Vi kjører for øyeblikket en «superagent» på en dedikert maskin (en VPS-forekomst som kjører på DigitalOcean) som bruker GPT-5.6-sol i høyeste resonnementtilstand. Noen av de andre agentene vi kjører bruker andre agentseler og modeller, men dette er den jeg vil fokusere på i denne artikkelen.

Vi la merke til at de fleste selskaper ikke bruker denne typen autonome agenter til å kjøre kritiske flyter i selskapet, noe som virkelig bremser dem. Faktisk er mange av dem avhengige av mindre, mer personlige agenter: kodeagenter som Codex/ClaudeCode eller assistentagenter som Work/Cowork/Copilot. Disse utfører oppgaver på lokale maskiner og enheter og det primære gapet de har er mangel på kunnskap. Dette førte til en helt ny industri av «second brain»-systemer som i hovedsak prøver å lage en kunnskapsgraf som deles mellom disse distribuerte agentene. Bedrifter som jobber som dette hevder ofte at de har agenter som teller i titalls, hundre og i noen ekstreme tilfeller tusenvis. Det betyr i utgangspunktet at hver ansatt har en eller flere begrenset agenter som utfører oppgaver for dem.

Det faktum at agenter ble utsatt tidlig for data fra den virkelige verden, brukerklager og koden vår, gjorde dem dramatisk mer smidige og smartere enn noen personlige agenter vi kjører sammen med dem.

Vi innså nettopp at våre smarteste agenter er i ferd med å bli et selskaps superintelligens.

For klarhetens skyld: Jeg påstår ikke sans, AGI eller noe i nærheten av det. Jeg foreslår at de er en helt ny enhet i selskapets organisasjonskart.

Hva er en bedriftssuperintelligens?

Når en agent begynner å skille seg ut, så lenge den er fokusert, kan den begynne å bli en superintelligent enhet. Hvordan definerer vi det?

Jeg vil si at i de fleste tilfeller har agenter akkurat nå først og fremst en fordel av tålmodighet og utholdenhet, ikke av intelligens fremfor mennesker. Men etter hvert som modellene ble bedre (GPT 5.6 sol og Opus 5 er virkelig gode!) har vi begynt å se noe nytt dukke opp, noe som overgår det vi kunne gjøre – ikke bare i hastighet, men i å gjøre mennesker ikke kan gjøre.

Det startet for oss da vi ga agenten vår en overflod av data (Mixpanel) og forretningsanalysefunksjoner og datatilgang (feil gjennom Sentry, økonomi i Baremetrics, AI-spor gjennom LangSmith). Deretter utsatte vi den for brukerfeil (Sentry-feil) og brukerklagerapporter. Til slutt ga vi den tilgang til kodeagenter og våre primære reposer på GitHub. Den har ingen ekstern tilgang via e-post, eller noen brukerinteraksjon, men gjennom å se hvordan vi oppfører oss om disse emnene, begynte den å forstå ting. Gjennom disse interaksjonene overvåker den nå hva som utgjør en blokkering, hva kritisk tenkning er, hvordan virksomheten vår kjører og hva SOP (Standard Operating Procedures) er. Den gjør dette gjennom prøving og feiling, og den ser ut til å få etterretning med jevne mellomrom.

På det tidspunktet begynte vi å stille noen interessante spørsmål. Til å begynne med krevde alt dobbeltsjekking og kritikk når ting ikke ble forklart ordentlig eller konklusjonene hørtes skumle ut. Det gjør det fortsatt fra tid til annen, for eksempel spurte jeg det om regresjoner og det ga meg støyende feildata, men det er en læringsmulighet: Jeg lærte den min definisjon av regresjoner, og nå «setter den».

Når brukere klager eller når feil øker, genererer vi proaktivt rettelser. Det betyr at ingeniørene våre hver morgen ikke trenger å se etter regresjoner, de trenger bare å bestemme om en PR er god eller ikke. I begynnelsen var dette engangs PR-er som ikke oppfylte våre kvalitetsstandarder for koding, så ingeniørene ville fortelle det hva som var galt, eller bare reutviklet problemet selv. Etter hvert som tilliten vokste, begynte mange av disse rettelsene å bli slått sammen til kodebasen automatisk. Agenten rangerer også hvor kompleks PR er og hvor sikker agenten er på å slå den sammen. Vi er ikke på et punkt der disse PR-ene automatisk slås sammen, men jeg ser en vei dit, jeg antar at vi er der om en måned eller to.

Men det er egentlig ikke det som gjør agenten super intelligent. Det som gjør er at nå som ingeniørene og ledelsen i selskapet har tillit til agenten, begynner de å delegere arbeid til den og stille den virkelig interessante spørsmål. Det gjør forskningen for dem, ikke som google-søk, men med avansert kunnskap om virksomheten i tankene, noe som gir den en spesiell fordel. Det samme gjelder for å gi den kunnskap om flere deler av bedriften. OpenClaw og HermesAgent ville historisk bryte sammen på et tidspunkt der deres historiske kontekst oversteg deres evne til å behandle informasjonen. Den typen sammenbrudd ville skje, og resultatene var et drastisk fall i intelligens, erindring og kvaliteten på arbeidet deres. Vår erfaring med Hermes Agent er ganske annerledes nå: samtaleminnet er nå på 3 GB og vokser eksponentielt mens intelligensen klart forbedres over tid.

Det er ikke dermed sagt at det er perfekt, det er regresjoner og du må noen ganger minne det på å oppføre seg på bestemte måter eller identifisere hvorfor det ikke oppfører seg som du forventet i en bestemt kontekst eller svarer riktig på en annen agent som ber om data eller handlinger fra den. Men, vi kommer dit.

En uventet bivirkning av grenbeskyttelsen ga oss et nytt fremskritt. Ideen bak grenbeskyttelse er at minst to personer ser en PR før den kommer i produksjon, noe som reduserer sjansene for at dårlig (eller til og med ufarlig) kode kommer inn i systemet. Dette er vanskeligere og vanskeligere å gjøre riktig med de nye kodemidlene. Etter hvert som hastigheten øker, er frekvensen av nye PR-er og mengde kode nesten umulig å gjennomgå grundig for hånd. Vi har flere agenter fra forskjellige leverandører som vurderer Prs for feil, sikkerhetsproblemer og arkitektoniske problemer. Grenbeskyttelsen forblir imidlertid, så jeg lot vår superintelligente agent være den endelige godkjenneren av PR-er.

Halvparten forventet vi at resultatene ville være hverdagslige. Tross alt besto disse PR-ene lokale kodeagentanmeldelser, tester, sikkerhetsvurderinger, eksterne GitHubCopilot- og CodeRabbit-anmeldelser og ble godkjent fullstendig. Men agenten vår slo fortsatt hull på de PR-ene. Den fant virkelig interessante kantsaker vi gikk glipp av, sikkerhet, programvarekvalitet og arkitektoniske feil som vi ikke vurderte. Den bruker de samme modellene som alle de andre anmelderne, hvorfor finner den ut ting som de andre ikke var?

Det handler om kunnskap og erfaring. Hermes Agent-selen kombinert med kunnskapen om at agenten akkumulerte skaper en ny type superintelligent agent som vi ikke har sett før. Så vi utforsket dette videre og gjorde agentens vurderinger obligatoriske, ikke bare for mennesker som jobber med systemet, men det fungerer nå som en referanse for andre, mindre intelligente agenter!

Denne agenten har nå muligheten til å gi oss kritisk tenkning som vi tidligere bare så hos mennesker, men støttet av faktiske kundedata, tilbakemeldinger, vår kode og en dyp forståelse av produktet.

Hvis vi utvider dette, og gir det mer data å mate på, skalerer maskinvaren og minnet, kommer vi til å se en eksponentiell økning i ytelsen. Jeg tror modellene fortsatt holder det tilbake. Når vi kommer til neste fase av dette spillet, kanskje gjennom GPT-6, kommer resultatene til å bli dramatisk mer interessante. Etter hvert som vi akkumulerer mer data, gi agentene flere oppgaver å gjøre og stoler mer på dem.

Hvordan er dette forskjellig fra Karpathys Wiki-baserte andre hjerne?

Det som gjør dette forskjellig fra andre tilnærminger er at i stedet for å forholde seg til delt kunnskap, lagres superagentkunnskapen lokalt. Vi kan be den om å opprettholde sitt eget minne og verdensforståelse i en repo, som lar oss duplisere den og overvåke den, men til syvende og sist er det ikke om å gjøre kunnskapen og ferdighetene delbare og samarbeidende. Det er en enestående kunnskapsbase som, sammen med verktøyene og verdenstilgang, lar den svare på spørsmålene dine direkte. Du ber ikke agenten din finne ut av det ved å bruke den delte kunnskapen, verken du eller agentene dine stiller spørsmålene dine til Superintelligent-agenten. Overraskende nok fungerer dette bra for oss akkurat nå til det punktet at vi kontinuerlig utvider tilgangen og rekkevidden til agenten, og vi har ennå ikke sett forringet kunnskap eller intelligens som et resultat.

Merk: vi utsetter ikke agenten for sensitiv informasjon eller funksjonalitet. Den har ikke direkte tilgang til våre bank-, belastnings- eller faktureringssystemer. Den er også adskilt fra verden og har ikke tilgang til e-post eller eksterne kanaler. Ettersom vi får erfaring og tillit, tror jeg ikke vi er veldig langt unna å løfte disse restriksjonene også.