Emergent företags superintelligens10 min read

Som startup arbetar vi ständigt med nya tekniker för att springa snabbare och tänja på gränsen. När OpenClaw/Hermes lanserades var vi en early adopter. Vi använde den tillsammans med många andra AI-verktyg.

När dessa verktyg, såväl som modellerna de litar på, utvecklades, märkte vi något: vi går inte bara snabbare, vi har börjat arbeta annorlunda. Med varje runda går dessa självförbättrande självlärande agenter framåt och lär sig. Vi kör för närvarande en ”superagent” på en dedikerad maskin (en VPS-instans som körs på DigitalOcean) som använder GPT-5.6-sol i högsta resonemangstillstånd. Några av de andra agenterna vi kör använder andra agentselar och modeller, men det här är den jag skulle vilja fokusera på i den här artikeln.

Vi märkte att de flesta företag inte använder den här typen av autonoma agenter för att driva kritiska flöden i sitt företag, vilket verkligen saktar ner dem. Faktum är att många av dem förlitar sig på mindre, mer personliga agenter: kodningsagenter som Codex/ClaudeCode eller assisterande agenter som Work/Cowork/Copilot. Dessa utför uppgifter på lokala maskiner och enheter och den primära luckan de har är bristande kunskap. Detta ledde till en helt ny industri av ”andra hjärnan”-system som i huvudsak försöker skapa en kunskapsgraf som delas mellan dessa distribuerade agenter. Företag som arbetar på det här sättet utropar ofta att de har agenter som numrerar i tiotals, hundratals och i vissa extrema fall tusentals. Det betyder i princip att varje anställd har en eller flera begränsad agenter som utför uppgifter åt dem.

Det faktum att agenter tidigt exponerades för data från den verkliga världen, användarklagomål och vår kod, gjorde dem dramatiskt smidigare och smartare än någon personlig agent vi kör tillsammans med dem.

Vi insåg precis att våra smartaste agenter håller på att bli ett företags superintelligens.

För tydlighetens skull: Jag hävdar inte sentience, AGI eller något i närheten av det. Jag föreslår att de är en helt ny enhet i företagets organisationsdiagram.

Vad är ett företags superintelligens?

När en agent börjar sticka ut, så länge den är fokuserad, kan den börja bli en superintelligent enhet. Hur definierar vi det?

Jag skulle säga att i de flesta fall har agenter just nu främst en fördel av tålamod och uthållighet, inte av intelligens framför människor. Men eftersom modellerna blev bättre (GPT 5.6 sol & Opus 5 är riktigt bra!) har vi börjat se något nytt dyka upp, något som överträffar vad vi kunde göra – inte bara i hastighet utan i att göra människor kan inte göra.

Det började för oss när vi gav vår agent ett överflöd av data (Mixpanel) och affärsanalysfunktioner och dataåtkomst (fel genom Sentry, ekonomi i Baremetrics, AI spår genom LangSmith). Därefter exponerade vi den för användarbuggar (Sentry-fel) och rapporter om användarklagomål. Slutligen gav vi den tillgång till kodningsagenter och våra primära repos på GitHub. Den har ingen extern åtkomst via e-post eller någon användarinteraktion, men genom att titta på hur vi beter oss i dessa ämnen började den förstå saker. Genom dessa interaktioner övervakar den nu vad som utgör en blockerare, vad kritiskt tänkande är, hur vår verksamhet går och vad SOP (Standard Operating Procedures) är. Det gör detta genom att trial and error och det verkar få intelligens på en regelbunden basis.

Vid det laget började vi ställa några intressanta frågor till den. Till en början krävde allt dubbelkontroll och kritik när saker och ting inte förklarades ordentligt eller slutsatserna lät skumma. Den gör fortfarande detta då och då, till exempel frågade jag den om regressioner och det gav mig bullriga feldata, men det är en möjlighet att lära sig: jag lärde den min definition av regressioner och nu ”förstår den”.

När användare klagar eller när fel ökar, genererar vi proaktivt korrigeringar. Det betyder att våra ingenjörer varje morgon inte behöver kolla efter regression, de behöver bara bestämma om en PR är bra eller inte. I början var dessa engångs PRs som inte uppfyllde våra kodningskvalitetsstandarder, så ingenjörerna skulle berätta vad som var fel, eller bara omutvecklade problemet själva. När förtroendet växte började många av dessa korrigeringar automatiskt slås samman i kodbasen. Agenten rangordnar också hur komplex PR är och hur säker agenten är på att slå samman den. Vi är inte vid en punkt där dessa PR automatiskt slås samman, men jag ser en väg dit, jag antar att vi kommer att vara där om en månad eller två.

Men det är inte riktigt det som gör agenten superintelligent. Vad som gör är att nu när ingenjörerna och företagets ledning har förtroende för agenten börjar de delegera arbete till den och ställa riktigt intressanta frågor till den. Det gör forskningen åt dem, inte som googlesökningar utan med avancerad kunskap om verksamheten i åtanke, vilket ger den en speciell fördel. Detsamma gäller för att ge den kunskap om fler delar av företaget. OpenClaw och HermesAgent skulle historiskt gå sönder någon gång där deras historiska sammanhang översteg deras förmåga att bearbeta informationen. Den typen av sammanbrott skulle inträffa och resultatet var en drastisk nedgång i intelligens, minne och kvalitet på deras arbete. Vår erfarenhet av Hermes Agent är helt annorlunda nu: konversationsminnet är nu på 3 GB och växer exponentiellt medan dess intelligens tydligt förbättras över tiden.

Därmed inte sagt att den är perfekt, det finns regressioner och du måste ibland påminna den om att bete sig på vissa sätt eller identifiera varför den inte beter sig som du förväntat dig i ett visst sammanhang eller svarar korrekt på en annan agent som begär data eller åtgärder från den. Men, vi kommer dit.

En oväntad bieffekt av grenskyddet gav oss ytterligare ett framsteg. Tanken bakom filialskydd är att minst två personer ser en PR innan den sätts i produktion, vilket minskar risken för att dålig (eller till och med otrevlig) kod kommer in i systemet. Detta är svårare och svårare att göra ordentligt med de nya kodningsmedlen. När hastigheten ökar är hastigheten på nya PR och mängden kod nästan omöjlig att granska noggrant för hand. Vi har flera agenter från olika leverantörer som granskar Prs för buggar, säkerhetsproblem och arkitektoniska problem. Grenskyddet kvarstår dock, så jag lät vår superintelligenta agent vara den slutliga godkännaren av PR.

Vi förväntade oss hälften att resultaten skulle bli vardagliga. När allt kommer omkring klarade dessa PR granskningar av lokala kodningsagenter, tester, säkerhetsgranskningar, externa GitHubCopilot och CodeRabbit recensioner och godkändes helt. Men vår agent slog fortfarande hål på dessa PR. Den hittade riktigt intressanta edge-fall vi missade, säkerhet, mjukvarukvalitet och arkitektoniska buggar som vi inte övervägde. Den använder samma modeller som alla andra recensenter, varför kommer den på saker som de andra inte var?

Det handlar om kunskap och erfarenhet. Hermes Agent-selen i kombination med kunskapen om att agenten samlats skapar en ny typ av superintelligent agent som vi inte har sett tidigare. Så vi utforskade detta ytterligare och gjorde agentens recensioner obligatoriska, inte bara för människor som arbetar med systemet, utan det fungerar nu som en referens för andra, mindre intelligenta agenter!

Denna agent har nu förmågan att ge oss kritiskt tänkande som vi tidigare bara såg hos människor, men som backas upp av faktisk kunddata, feedback, vår kod och en djup förståelse av produkten.

Om vi ​​utökar detta och ger det mer data att mata på, skalar dess hårdvara och minne, kommer vi att se en exponentiell ökning av prestanda. Jag tror att modellerna fortfarande håller tillbaka det. När vi kommer till nästa fas av detta spel, kanske genom GPT-6, kommer resultaten att bli dramatiskt mer intressanta. När vi samlar på oss mer data, ge agenterna fler uppgifter att göra och lita på dem mer.

Hur skiljer sig detta från Karpathys Wiki-baserade andra hjärna?

Det som skiljer detta från andra tillvägagångssätt är att istället för att hantera delad kunskap, lagras superagentkunskapen lokalt. Vi kan be den att behålla sitt eget minne och världsförståelse i ett repo, vilket gör att vi kan duplicera det och övervaka det, men i slutändan är det inte om att göra kunskaperna och färdigheterna delbara och samarbetsvilliga. Det är en unik kunskapsbas som tillsammans med verktygen och världsåtkomst låter den besvara dina frågor direkt. Du ber inte din agent att ta reda på det med hjälp av den delade kunskapen, varken du eller dina agenter ställer dina frågor till Superintelligent-agenten. Överraskande nog fungerar detta bra för oss just nu till den grad att vi kontinuerligt utökar åtkomsten och räckvidden för agenten och vi har ännu inte sett försämrad kunskap eller intelligens som ett resultat.

Obs: vi utsätter inte agenten för känslig information eller funktionalitet. Den har inte direkt tillgång till våra bank-, debiterings- eller faktureringssystem. Den är också segregerad från världen och har inte tillgång till e-post eller externa kanaler. När vi får erfarenhet och förtroende tror jag inte att vi är särskilt långt ifrån att häva dessa restriktioner också.