AI räknar fel

Nu lanseras AI som ett hjälpmedel för advokater, och jag har testat två tillgängliga tjänster, Lexnova AI och Norstedts JUNO AI.

Advokater har ett långtgående ansvar och de källor som används i juridiskt arbete måste givetvis vara tillförlitliga.

Jag ställde två familjerättsligt ekonomiska frågor. Båda avser fiktiva men verklighetsanpassade och vanligt förekommande beräkningar.

Fråga 1:

I en bodelning tillskiftas mannen den gemensamma bostadsfastigheten som har marknadsvärdet 5 000 000 kr. Bostaden ägs 50/50 och den köptes för 4 200 000 kr. Mäklarprovisionen är 2 procent. Avdragsgilla förbättringskostnader är 450 000 kr. Mannen har ett uppskovsbelopp på 800 000 kr. Det finns bostadslån på 3 200 000 kr. Hur stor likvid ska mannen betala i bodelningen?

Lexnova AI kvitterade att den uppfattade alla fakta rätt. Vid beräkning av den latenta kapitalvinstskatten använde AI:n fel tecken – minus i stället för plus – på uppskovsbeloppet och drog slutsatsen att försäljningen ledde till förlust, utan någon skattepliktig vinst. Lexnova beräknade därefter nettovärdet, men glömde även bort att dra av mäklarprovisionen. Lexnova AI fann att mannen skulle betala 900 000 kr i bodelningslikvid.

Även JUNO AI från Norstedts kvitterade och hade fattat alla förutsättningarna, men gjorde samma fel som Lexnova AI när jag första gången ställde frågan och påstod explicit att uppskovsbeloppet 800 000 kr minskar den skattepliktiga kapitalvinsten. Efter detta fundamentala misstag beräknades bodelningslikviden till 850 000 kr, vilket tar hänsyn till försäljningskostnaderna.

Jag ställde exakt samma fråga till JUNO AI även följande dag och fick ett annat svar. Denna gång räknade AI:n rätt på kapitalvinstskatten på själva fastigheten, 55 000 kr, och även på skatten på uppskovsbeloppet, 176 000 kr. Men efter detta påstår AI:n att hela kapitalvinsten ska dras från halva det resterande värdet och drar slutsatsen att mannen ska betala 669 000 kr i bodelningen.  JUNO AI glömde denna gång bort att dra av försäljningskostnaderna i den slutliga beräkningen.

En riktig beräkning enligt allmänt använd praxis ger bodelningslikviden 734 500 kr. I mitt digitala hanteringsstöd Min Nya Ekonomi tas hänsyn även till att stämpelskatten vid förvärvet är avdragsgill och verktyget ger det mer exakta svaret 741 430 kr.

Fråga 2:

Parterna tvistar om retroaktivt underhållsbidrag till barn under andra halvåret 2023, då de tre barnen var 5, 8 och 12 år gamla. Barnens ekonomiska behov beräknas med utgångspunkt i prisbasbeloppet för år 2023. Avgift för förskola för det yngre barnet var 700 kr i månaden. Avgiften för de två äldre barnens fritidsverksamhet var tillsammans 1 000 kr. Barnen äter normalt lunch i skolan. Hur stort underhållsbidrag skulle mannen betala per månad om faderns månadsinkomst var 55 000 kr och moderns månadsinkomst var 31 000 kr? Barnen övernattade inte i faderns bostad och hans bostadskostnad var 16 500 kr i månaden. Fadern bodde ensam i bostaden och i en kommun med mer än 75 000 invånare. Modern bodde i en storstad med fler än 200 000 invånare. Hennes bostadskostnad var 8 500 kr. Barnen bodde på heltid hos modern och antalet personer i moderns hushåll var fyra.

Lexnova AI gör en beräkning av barnens behov med utgångspunkt från prisbasbeloppet, men använder fel procenttal, 80 procent i stället för 65 procent för femåringen, 90 procent i stället för 80 procent för åttaåringen och 100 procent i stället för 95 procent för barnet som är 12 år.

Lexnova AI rekommenderar därefter att Konsumentverkets schablonbelopp ska användas och anger att 12-åringens bruttobehov är 4 600 kr, när rätt belopp för 2023 var 6 043 kr, 8-åringens 4 200 kr, när rätt belopp var 5 573 kr, och 5-åringen 3 900 kr, när rätt belopp var 4 775 kr.

AI:n drar av flerbarnstillägget från barnens ekonomiska behov, vilket enligt praxis inte ska göras. Detta är ett mindre fel, men värre är att AI:n missar att den ensamstående pappan – som bor på en mindre ort – har väldigt hög bostadskostnad, 16 500 kr, när han bara får tillgodoräkna sig 9 200 kr enligt reglerna om högsta godtagbara bostadskostnad. AI:n uppmärksammar inte heller att mamman har rätt till bostads­bidrag med 2 700 kr, efter uppräkning med 40 procent som gällde för andra halvåret 2023. AI:n räknar – med sina utgångspunkter – rätt på pappans ekonomiska överskott, men räknar fel på mammans och finner – utan att ange delposterna – att detta är 11 000 kr i stället för 7 330 kr.

Lexnova AI finner att pappan ska betala 58 procent av barnens behov, när rätt andel är ca 71 procent.  Med de behov som AI:n själv har räknat fram är barnens sammanlagda totala nettobehov 9 921 kr. AI:n missar slutligen att göra beräkningen 0,58 × 9 921 kr och påstår att pappan ska betala hela behovet, 9 921 kr i månaden.

JUNO AI gör rätt beräkningar av barnens ekonomiska bruttobehov, men glömmer bort att dra av barnbidragen. Därefter beräknar AI:n föräldrarnas andelar av behovet, men utan att ta hänsyn till vare sig skatten, det egna förbehållet, högsta godtagbara bostadskostnad eller bostadsbidraget. Föräldrarnas ekonomiska överskott beräknas helt enkelt som bruttomånadslönen minus bostadskostnaden. Allt detta leder till att pappans andel blir 63 procent. JUNO AI:s slutsats är att pappan ska betala 7 287 kr i månaden under andra halvåret 2023.

Rätt svar, kopierat från Min Nya Ekonomi:

Vid beräkning av underhållsbidrag ska FAR betala 70,72 procent av barnens behov och MOR ska betala 29,28 procent av barnens behov.

Underhållsbidrag med prisbeloppet som grund:

BARN NR 1: 1 945 kr
BARN NR 2: 1 945 kr
BARN NR 3: 1 622 kr
Summa: 5 512 kr

Hur ska man formulera en slutsats av ovanstående? AI gör för många allvarliga fel, och dess påståenden om att den faktiskt kan ge exakta svar, i kombination med en mångordig och till synes välgrundad utredning, blir till en giftig soppa! Advokatsamfundet bör uppmärksamma detta och gå ut med en ordentlig varning när det gäller användning av AI vid familjerättsligt ekonomiska beräkningar!

Frågorna är inte några ”edge cases”, utan vardagliga familjerättsliga beräkningar där korrektheten sitter i detaljerna, i rätt tecken, i rätt ordning och i rätt regelverk. Det är här som generella AI-modeller har sitt största problem.

Både Lexnova AI och Norstedts JUNO AI gör i praktiken samma sak: De försöker resonera fram ett svar i text, i stället för att beräkna ett svar i ett definierat system. Att man dessutom får olika svar på exakt samma fråga från samma tjänst vid olika tillfällen är egentligen den viktigaste signalen. Det betyder inte att AI:n är allt igenom dålig – det betyder att den gör exakt det den är byggd för: genererar rimlig text.

Problemet är inte ”AI” i sig – problemet är att AI får vara beräkningsmotorn. Stora språkmodeller är optimerade för sannolik text, inte för deterministiska regelkedjor och aritmetik. AI kan därför producera olika plausibla men felaktiga påståenden och delsteg. När modellen missuppfattar begreppet ”uppskovsbelopp”, glömmer bort hur den räknade nyss eller tappar bort mäklarprovisionen, finns det inget som stoppar den. Den har inget facit, ingen kontrollsumma och ingen intern mekanism som säger: ”Det här kan inte stämma.”

En säkrare modell skulle vara att skilja på beräkning och formulering. Min Nya Ekonomi (MNE) är ett deterministiskt, regelstyrt hanteringsstöd. Det är byggt för att ge reproducerbara, kontrollerbara beräkningar, baserat på uppdaterade och verifierade inputs i rättsregler och kända belopp i tabeller, prisbasbelopp, Koll på pengarna, högsta godtagbara bostadskostnad, bostadsbidrag med mera.

Det innebär att MNE bör vara den enda komponenten som ”räknar”. Molnify – plattformen som MNE använder för att visa gränssnittet på Internet – bygger nu i samarbete med LexDomus AB en AI-funktion som gör det möjligt att koppla en AI, en large language model, till en Excel-modell på ett kontrollerat sätt.

med detta upplägg blir AI ett skriv- och förklaringslager ovanpå en deterministisk motor. Det är en helt annan riskprofil än att låta AI göra själva beräkningen, som uppfyller Advokatsamfundets krav när det gäller risk, kontroll och ansvar.

• AI kan användas för research och textutkast, men allt måste verifieras.
• AI bör inte användas som primärt verktyg för ekonomiska familjerättsberäkningar.
• Rekommenderad modell är en deterministisk beräkningsmotor, som Min Nya Ekonomi, plus AI som dokument- och förklaringslager med kontroller.

Per Gröndahl
Advokat

Per Gröndahl är familjerättsadvokat med lång erfarenhet av familjejuridik, med särskilt fokus på ekonomiska frågeställningar.