AI, sikkerhed og ansvarlig teknologi

MitVores er ikke bygget på en forudsætning om, at kunstig intelligens skal anvendes overalt.

Teknologiens grundlæggende opgave er enklere: at gøre det lettere for borgere at skabe relationer, fællesskaber og lokale tilbud, der er relevante for dem.

Derfor kan MitVores anvendes både med og uden generativ AI.

Kommunens aktiviteter og tilbud hentes i dag automatisk fra kommunens eget kalendersystem. Løsningen er bygget, så flere kilder – eksempelvis foreninger, frivillige og andre lokale aktører – kan kobles på med egne integrationer.

Borgerens valgte interesser kan danne grundlag for en interesseprofil, som bruges til at finde andre borgere med lignende interesser. Samme princip kan anvendes til at sortere og prioritere aktiviteter og tilbud og tilpasse kommunikationen til den enkelte borger.

En borger med interesse for eksempelvis natur, musik og bevægelse kan dermed lettere præsenteres for relevante aktiviteter, fællesskaber og andre borgere med lignende interesser.

Det kan ske ved hjælp af regelbaserede algoritmer og kræver ikke generativ AI.

Hvor kommunen ønsker det, kan MitVores suppleres med en digital AI-assistent. Her kan borgeren spørge med almindeligt sprog:

"Er der noget, jeg kan lave sammen med andre i morgen?"

Assistentens opgave er afgrænset til information og navigation. Den diagnosticerer ikke, visiterer ikke og vurderer ikke borgerens ret til hjælp eller offentlige ydelser.

Der findes ikke et output fra MitVores, som kan lægges til grund for en myndighedsafgørelse. Appen tildeler, afslår, prioriterer eller indstiller ikke borgere og indgår ikke i visitation, bevilling eller sagsbehandling.

Den AI-assistent, der indgår i MitVores, er afgrænset til information og navigation. Den vurderer ikke borgerens behov eller rettigheder og indgår ikke i kommunale afgørelser, visitation eller sagsbehandling.

Vi har indrettet AI-funktionerne efter de krav i EU's AI-forordning, der gælder for den konkrete anvendelse.

Borgeren kan altid se, når vedkommende kommunikerer med AI. Funktionen hedder Digital assistent, og det fremgår permanent, at man taler med en digital assistent og ikke et menneske.

Assistentens formål, afgrænsning og regelsæt dokumenteres skriftligt og kan udleveres til kommunen.

Vi arbejder samtidig med relevante AI-kompetencer i vores eget team og kan som en del af implementeringen introducere kommunens medarbejdere til løsningens AI-funktioner, muligheder, begrænsninger og sikkerhedsprincipper.

MitVores anvender MitID til sikker identifikation af brugeren. Oplysninger, der anvendes til login og brugeradministration, holdes adskilt fra den digitale assistent.

AI-assistenten har kun adgang til de oplysninger, der er nødvendige for dens funktion. Den har ikke adgang til kommunale journaler, omsorgssystemer eller sagsbehandlingssystemer.

MitVores er ikke udviklet til at indsamle eller opbevare oplysninger om borgerens sygdomme, diagnoser eller medicinske behandling. Den digitale assistent stiller ikke spørgsmål med henblik på at indsamle sådanne oplysninger og giver ikke sundhedsfaglig rådgivning.

Samtaler med assistenten slettes automatisk efter 30 dage. Vi logger, hvor ofte assistenten afviser spørgsmål, men gemmer ikke samtalernes indhold som permanente brugerdata.

Ved implementeringen dokumenteres databehandling, leverandører, opbevaring og eventuelle overførsler, så kommunen har et klart grundlag for at vurdere løsningen.

Den digitale assistent er et selvstændigt modul og kan slås helt fra i den enkelte kommunes installation, uden at resten af MitVores påvirkes.

Kommunen behøver derfor ikke acceptere én bestemt teknologisk model for at anvende MitVores.