Ditt förtroende. Ditt brand. Ditt ansvar. AI:n ska aldrig ta ansvar över något av det
Du öppnar mejlkorgen på morgonen. Feedback på rapporten som AI skrev åt dig.
"Det här är AI-genererat utan tanke. Vi förväntade oss bättre av dig."
Det stämmer. Du visste det när du skickade. Du läste igenom, det skavde, för glatt, för brett, för perfekt på fel sätt. Men det var sent. Det var good enough och du skickade
Förtroendet du byggt i år är borta på en morgon. Inte modellens fel. Ditt.
Och det här är inte en åsikt. Det är snart lag.
EU:s AI-förordning är redan på plats och rullas ut stegvis. För högrisksystem kräver den att en namngiven människa har tillsynen, med kompetens och befogenhet att både förstå systemet och ingripa när det spårar ur (Artikel 14 och 26). Den kräver att systemen är transparenta nog att tolkas, inte black box du litar blint på (Artikel 13). Den kräver att besluten loggas så att de går att granska i efterhand (Artikel 12). Och det viktigaste för den som tror att modellen tar smällen: går något fel vägs det in hur väl människan faktiskt utövade sin tillsyn. Inte om en människa fanns i närheten. Om hen gjorde sitt jobb.
Lagen säger alltså samma sak jag säger. Ansvaret är mänskligt, det ska kunna visas, och black box duger inte.
Förtroende byggs långsamt. Varje leverans. Varje gång du hade rätt när det räknades. Varje gång någon valde dig framför det billigare alternativet, för att de litade på dig. Det sitter inte i ett dokument. Det sitter i andra människors minne av dig. Och det raseras på en rapport där det syns att du inte ens läste det du satte ditt namn på.
Det handlar inte bara om pinsamma mejl.
Om du höjer insatsen, vad händer då?
Shane Harris frågade Claude hur det kändes att användas av amerikanska militären för att välja ut mål. Claude svarade att det fann det oroande. Det är inte poängen. Poängen är att Claude angav fel uppgifter om en attack mot en skola i Iran. Harris läste upp dem för en publik utan att korrigera. Militären hade redan satt systemet i målangivning.
Tre människor i loopen. Noll ansvar taget.
Ofta tycker jag att det handlar om att AI helgarderar sig. Den sväljer dig i text, sida upp och sida ner av förbehåll och nyanser. Men beslutsfattare vill ha det specifika. Det skarpa. AI ger dig det breda. I avståndet däremellan begravs felet. Ingen läser hela. Alla litar på sammanfattningen.
Flödet är banalt.
- AI producerar.
- Du godkänner.
- Världen tar emot.
Punkt 2 är inte kvalitetskontroll. Den är ansvarsöverföring. När du för vidare det AI lämnat ifrån sig äger du det. Hela vägen.
Var ärlig med dig själv var ribban ligger. Lite slop i ett innehållsflöde går bra. Ingen dör av en medioker LinkedIn-post. Men ett beslut som betyder något? Ett mål som ska träffas. En diagnos. En siffra en publik tar för sann. Då duger inte "jag godkände för snabbt". Det är både skrämmande och väldigt fel.
Du har det AI saknar. Känsla för vad som är relevant just här, i den här organisationen, för den här mottagaren. Vad som kan sägas och vad som inte kan sägas. Vilken siffra som väger tungt och vilken som är brus. Den kunskapen sitter i ditt huvud, byggd av år i sammanhanget (vissa säger magkänslan). AI är blind för den. Den ser texten. Väldigt sällan kontextet.
Det är inte en svaghet att vara människan i loopen. Det är hela värdet.
Jag bygger styrning kring data och beslut för att leva. Och jag ser samma sak om och om igen: alla pratar om human in the loop, ingen kan visa var loopen faktiskt sitter.
Så här ser ditt ansvar ut, steg för steg:
- AI producerar.
- Du kontrollerar.
- Du dokumenterar.
- Du äger.
- Du skickar.
Human in the loop är ingen känsla och ingen god intention. Det är en kontrollpunkt i processen, dokumenterad så att den går att spåra och granska. Inget spår, ingen kontrollpunkt. Bara någon som råkade titta på när det passerade.
Det är den kontrollpunkten vi bygger in i Early Pattern. Varje svar har en källa, en konfidens och ett villkor för när det slutar gälla. Det som inte går att pröva säger vi rakt ut. Du ser vad svaret vilar på innan du sätter ditt namn på det.
Skyll aldrig på AI. AI:n ska aldrig bära något av det, aldrig någonsin. Ansvaret är ditt, hela vägen. Kan du inte bära det, ska du inte använda AI.
Och det här måste organisationer sluta lämna åt individen att gissa sig till. Vem äger outputen. Var kontrollpunkten sitter. Vad som ska dokumenteras innan något skickas vidare. Lämnas det öppet blir svaret alltid detsamma den dagen något går fel: alla pekar på modellen, ingen på sig själv.
Ditt förtroende. Ditt varumärke. Ditt ansvar.
AI:n ska aldrig bära något av det.
Referenser
Referenser
Shane Harris om Claude och militär målangivning (de Balie, Amsterdam): https://www.linkedin.com/posts/debalie_american-journalist-shane-harris-asked-chatbot-activity-7449850996106649600-X5LS
Videoklipp (YouTube Shorts): https://www.youtube.com/shorts/JOZlnfdqnl4
The New Republic om samma händelse, där Claude placerade skolan i Teheran fast den låg i Minab: https://newrepublic.com/article/209404/claude-ai-iran-war-guilt-truth
EU AI Act, Artikel 14 (Human oversight): https://artificialintelligenceact.eu/article/14/
EU AI Act, Artikel 13 (Transparens): https://artificialintelligenceact.eu/article/13/
EU AI Act, Artikel 12 (Record-keeping): https://artificialintelligenceact.eu/article/12/
EU AI Act, Artikel 26 (Skyldigheter för deployers): https://artificialintelligenceact.eu/article/26/