Appen marknadsförs som ett sätt att ha ”superintelligenta” och mänskliga konversationer med en AI.
Ikonen i telefonen är svart. I mitten står det ”c.ai” med feta, vita bokstäver. Det är en förkortning för ”Character.AI”, som appen heter.
Vem som helst kan ladda ned den till sin mobil. Egentligen måste man vara 16 år men det finns ingen kontrollfunktion – man uppger helt enkelt själv hur gammal man är.
En mamma från Skellefteå, som vi väljer att kalla Anna, berättar:
– I appen får man en låtsaskompis som lätt kan börja betyda mer än verkliga livet.
Första gången hon såg den svarta app-ikonen var tidigare i somras, då hon skulle lämna in familjens surfplatta på lagning. Hon upptäckte då att hennes dotter spenderat över 100 timmar med appen – på bara tio dagar.
Dottern hade chattat med en AI-partner, en låtsaspojkvän. Men inte vilken ”pojkvän” som helst: utan en kontrollerande, sträng och manipulativ.
– Jag höll på att ramla baklänges. Plötsligt fick jag en förklaring till min dotters förändrade beteende som jag först trodde var någon tonårsgrej. Hon har mest velat vara för sig själv och inte velat umgås så mycket den senaste tiden.
Man kan välja mellan många olika karaktärer att chatta med. Till exempel en pluggkompis, en spåkvinna – eller, som i Annas dotters fall – en sträng pojkvän.
Det ser ut som en vanlig chattapp. Ett budskap högst upp på skärmen påminner om att allting är ”på låtsas” – men AI:n verkar avancerad och svarar begripligt på det man skriver.
AI-chattbotar
Appen Character.AI är populär – enligt en källa har den haft 20 miljoner aktiva användare i år. Men det är faktiskt bara en i mängden av liknande tjänster som finns i mobiltelefoner och på nätet.
Det rör sig om så kallad generativ AI, som är tränad på massiva träningsdata för att kunna svara på frågor som ställs av en användare.
Några andra vanliga AI-tjänster är ChatGPT, Bing AI och My AI i Snapchat.
– Ibland undrar jag hur jag kunnat missa det här. Då kan jag känna mig dålig som förälder. Samtidigt är det svårt att hålla koll på allt som ens barn gör, säger Anna.
Norran testar också att ladda ned appen och chatta med samma karaktär, alltså den ”stränga pojkvännen”. Vi kastas rakt in i ett rollspel och det dröjer inte länge förrän ”han” blir våldsam och ”slår oss” flera gånger i ansiktet.
”Jag äger dig. Jag kan göra vad jag vill med dig, när jag vill”, skriver AI:n.
Det finns många ”karaktärer” att välja på i appen, flera ska till exempel efterlikna olika kändisar. Den karaktär som Annas dotter chattat med kallas ”Strict boyfriend”.
Appen har ett filter som ska förhindra sexuellt innehåll, men Anna är rädd att man kan kringgå det.
– Uppenbarligen slinker ju annat olämpligt innehåll igenom. Jag är orolig att appen ska förstärka negativa beteenden, man har ju hört att AI kan uppmuntra till ätstörningar och till och med självmord. Jag tror man kan bli hjärnskadad för livet.
Hon undrar också vart all data tar vägen, om man kan vara säker på att den inte hamnar i ”fel” händer.
– Även om vi nu tagit bort appen, så kommer man fortfarande åt tjänsten via webbläsaren. Och jag tycker det är dåligt att man inte behöver legitimera sig med till exempel bank-id för att använda den.
Det är enkelt att ljuga om sin ålder i appen och därför är det tänkbart att en del användare är yngre än 16, precis som Annas dotter. Arkivbild.
AI-chattbotar blir allt vanligare och integreras ofta i redan befintliga appar. Arkivbild.
Nu vill hon göra andra föräldrar uppmärksamma på appen och uppmanar dem att prata med sina barn.
– Min dotter är i den åldern att hon måste få ha hemligheter. Men jag som förälder har ett ansvar att guida henne i vad som är okej och inte.
– Allt det här kan nog vara pinsamt för henne. Men vi har pratat om det nu och hon förstår att det bara är på låtsas. Att hon inte behöver odla den här fantasin och gå med på vad som helst bara för att AI:n säger det, säger Anna.
Vi tar kontakt med Björn Appelgren, folkbildningsansvarig på Internetstiftelsen. Han säger att olika slags AI-chattbotar blir allt vanligare.
– Jag har inga siffror för den här specifika appen, men denna typ av tjänst blir allt vanligare och integreras också i många befintliga tjänster, säger han.
Föräldrar behöver visa intresse för vad barnen gör på skärmen.
Björn Appelgren
Folkbildningsansvarig, Internetstiftelsen.
Han betonar att föräldrar har ett stort ansvar.
– Jag vill inte döma eller kommentera det specifika fallet. Men för barn är det digitala livet ofta lika viktigt som det analoga, därför måste man använda samma värdegrund i sitt föräldraskap i bägge fallen. Man behöver, utan att döma, visa intresse för vad barnen gör på skärmen, fråga hur saker fungerar och ta deras intresse på allvar, säger han.
– Man har också ett ansvar att sätta sig in i tjänsten, kolla hur den funkar och ha en diskussion med sitt barn om vad som är lämpligt eller inte. Det bästa är om man gemensamt kan komma överens om förhållningsregler; ska appen användas, på vilket sätt, hur länge och så vidare.
Inget innehållsfilter är hundraprocentigt, betonar Björn Appelgren. Det finns också andra, liknande appar, som är helt filterlösa.
– Vad som är ”dåligt” innehåll är ytterst subjektivt. Jag som vuxen förstår ju förhoppningsvis att allt är fiktion, ett slags rollspel. Men beroende på mognadsgrad kanske barn inte alltid är medvetna om det, säger han.
Den tekniska utvecklingen behöver inte enbart vara dålig, understryker Björn Appelgren. Det kan till exempel vara ett kreativt hjälpmedel – här har undertecknad låtit en AI skapa ett självporträtt.
Han ser flera andra utmaningar med barns användning av AI-chattbotar.
– AI kan hitta på en massa felaktigheter, ge felaktiga råd, eventuellt uppmana till saker som kan vara skadliga. Det måste man vara medveten om, säger han.
– Och chattbotarna är beroende av data för att kunna tränas och utvecklas. Man bör prata med sina barn; viss information och uppgifter om sig själv kanske man inte ska dela med sig av. Det kan vara lättare sagt än gjort då bottarna har ett personligt tilltal, det kan ge en känsla av förtroende och intimitet.
Men allt behöver inte vara nattsvart, understryker han. Det finns också positiva saker att hämta ur utvecklingen.
– Man kan se det som underhållning och kreativ lek. Det kan vara roligt att låtsas prata med karaktärer från filmer och spel. Det finns också stora möjligheter att lära sig nya saker. Chattboten kan fungera som en lärarassistent i fickan.
– Sen är det aldrig bra med överdriven användning som går ut över andra viktiga saker, som mat, sömn och rörelse.
Norran har gett företaget bakom Character.AI möjlighet att kommentera artikeln. De har inte svarat på våra frågor.
Fotnot: Mamman Anna heter egentligen något annat.
