I Danmark har vi i løbet af de seneste år fået et større fokus på dataetik. Det er glædeligt. Vi har blandt andet set etableringen af Dataetisk Råd, som bidrager til debatten om dataetik og fremmer ansvarlig datahåndtering. Og der er indført krav til store virksomheder om at redegøre for deres dataetiske politik i årsregnskabet. Ydermere har vi fået en dataetisk mærkningsordning, så virksomheder kan signalere, at de håndterer deres data ansvarligt og har styr på it-sikkerheden.
Rammerne er således sat, og fokus på dataansvarlighed er større end nogensinde før. Men hvad betyder det helt konkret for de enkelte virksomheder, og hvad kan de gøre for at imødekomme det stigende fokus på dataetik?
Økonomisk incitament til tage hul på dataetik
De voksende persondatabaser, som eksempelvis det digitale coronapas, og virksomhedernes øgede brug af kunstig intelligens har intensiveret fokus på de etiske overvejelser i forbindelse med datahåndtering. Ifølge en undersøgelse fra Eurobarometer er 65 pct. af danskerne bekymrede for, at deres data ikke bliver opbevaret sikkert på websites, mens halvdelen er bekymrede for, at det offentlige ikke opbevarer deres data sikkert. Med andre ord bekymrer forbrugere og potentielle medarbejdere sig om, hvordan virksomheder og myndigheder håndterer data.
Virksomheder risikerer både at gå glip af talent og miste kunder, hvis de ikke tager bekymringer om dataansvar alvorligt og handler på det. Derfor er der et økonomisk incitament til at tage hul på overvejelser vedrørende dataetik. Virksomheder skal i langt højere grad til at vurdere, hvad der etisk er “rigtigt” og “forkert” i deres indsamling, brug, analyse og deling af data – og ikke mindst hvem i organisationen, der skal kunne redegøre for det.
Bring dataetik som disciplin og fagområde i centrum
Gennemsigtighed er nøgleordet, når det handler om dataansvarlighed – på flere niveauer. For det første skal virksomhedens ledelse forstå, hvad de tager beslutninger om. De skal have at vide hvilke problemstillinger, der er forbundet med datahåndtering og ny teknologi. På den måde får de et bedre grundlag for at træffe ansvarlige og velovervejede beslutninger på. For det andet skal virksomhedens kunder forstå på hvilket grundlag, de handler med virksomheden. Her er det for eksempel vigtigt at tage stilling til, hvordan man oplyser kunderne om datahåndtering og -politikker i øjenhøjde – det vil sige uden knudret juridisk sprog.
Men hvordan sikrer man sig bedst den nødvendige gennemsigtighed? De medarbejdere, der sidder med fingrene dybt begravet i dataene, er ofte ingeniører og dataloger med fokus på de it-faglige problemstillinger. Det er imidlertid vores erfaring i Dell Technologies, at der også er behov for andre kompetencer til at løfte opgaven. En oplagt løsning er at etablere dataetik som selvstændigt område og ansætte en dataetiker, som dels kan arbejde tæt sammen med dataspecialisterne om at sikre, at beslutninger om dataansvarlighed bliver implementeret, og dels kan uddanne organisationen og samarbejde med ledelsen om at træffe ansvarlige beslutninger.
Kunstig intelligens kræver særligt etiske overvejelser
Kunstig intelligens er i høj grad baseret på data, og da teknologien vinder indtog og anvendes i alt fra identifikationssoftware til rekrutteringsprocesser, er området så at sige obligatorisk for etiske og moralske overvejelser. Det er først og fremmest vigtigt at sikre, at kunstig intelligens ikke er forudindtaget – for eksempel når det gælder race, køn eller alder. Det stiller krav til, at virksomheder kvalificerer de data, de bruger til at bygge algoritmen op. Er der historiske data, som utilsigtet fremmer en bias mod en bestemt gruppe? Eller er der data nok til, at algoritmen kan det, den skal kunne? Og hvor meget data er der reelt behov for?
Virksomheder er også nødt til at forholde sig til de data, de får ud af den kunstige intelligens. Hvem deler de denne data med – og hvordan? Fører resultaterne til et værdifuldt udfald for både virksomheden og dens kunder? Og gør den kunstige intelligens overhovedet det, den er sat i verden til at gøre? Her kan en dataetiker hjælpe med at facilitere en åben dialog om, hvordan virksomheden udvikler og anvender kunstig intelligens på et mere etisk grundlag.
I sidste ende handler det for virksomheder om at etablere tillid til deres datahåndtering. Derfor er de nødt til at tænke datapolitik bredere end persondataforordningen eller det, der skal redegøres for i årsrapporten. Virksomheder skal sørge for, at enhver medarbejder, som “rører” ved data har en basal viden om de etiske implikationer og virksomhedens politikker på området, så det skinner klart igennem i teknologianvendelsen og i dialogen med kunderne.