Etik og design noter 7/10 2021

NoterMax

Ethics by design

Baseret på udlevereret tekst – (mangler kilde)

Sienna projektet.

For at gøre noget centralt skal man have domæne eksperterne med.

Data analyse har ingen betydning uden det rigtige data. [Keller JD & Tierney B Data science. The MIT Press (2018)]

Etiske krav der stilles til data. Der er opstillet et framework i sienna projektet for at simplificere værdierne etics by design.

  • Værdier.
  • Ethical requisites
  • Ethics by design guidelines
  • Ai methodologies
    • Agile
    • Crisp-DM
    • V-Method
    • Other
  • Tools – Methods

Fokus punkter:

  • Ethics by design
    • Human Agency
    • Privacy & Data Governance
    • Transparancy
    • Fairness
    • Accountavility & Oversight
    • Well-being

Framework skal tænkes in i aktiviteterne under udviklingen af et projekt.

F.eks. i:

  • Agile
  • Kravspec fase
  • High-level design
  • Detailed design and development

Kritik af modellen:

  • Det er opstillet som en checkliste og add-on til eksisterende løsninger, i stedet for noget fundament i udviklingen.
  • Det blive lidt for generisk, og det er for nemt at vælge fra.

Snik snak

  • Etik skal til at tages seriøst, lovforslag og love i andre lande har gjort at etik skal dokumenteres i form af en type regnskab.
  • Sunhedsplatformen i Danmark har været en dårlig succes, der har suffet mange, og været del af fejlmedisering og mere. Læs evt. mere med egen research.

Umbrello og van de poel

VSD

  • Conceptual investgations
  • Emerical investigations
  • Technical investigations

Vi ser tit kun konceptuelle løsninger til value sensitive design, og relativt få tekniske løsninger.

VSD kan opdeles i værdier, normer og design krav.

Kritik: Det kan være svært at gennemføre modellens meget overordnede tips på udvikler niveau. Skribenterne har tilsyneladende ikke meget viden om systemudvikling. Prototyping er for simpelt.

Ai for social good – AI4SG

Der er AI til særlige problemstillinger.

Umbrello og van de poel har været med til at lave en debat om hvordan AI kan bruges til at hjælpe mennesker. Det er blevet simplificeret til 7 principper. AI kan ikke alane løse problemener. AI er blevet en indraget i FN’s verdensmål.

De særlige problemer med AI er:

  1. Manglende transperans
  2. Biased learning

Problemer kan ses i bl.a. testset med dårlige lærningsgrundlag, værdisæt kan være ugennemskueligt, ai forsøger at få positive signaler over faktiske resultater.

7 faktorer

  1. Ai troværdighed
  2. Sagefuards agains the manipulators of predictors
  3. Reviever-contextualised intervention
  4. Reviever-contextualised explanation and transparent purposes
  5. Privacy protection and data subject consent
  6. Situational fairness
  7. Human-friendly semanticisation

Teknisk gæld

Teknisk gæld kan være okay i små mængder ligesom øknoknomisk gæld.

Foredrag af Andreas CEO fra Armbolt – speciale i machne learning og vil fortælle om Human-centric AI

Andreas Berre Eriksen.

Human-centric AI er måden Armbolt arbejder med Etisk design.

Andreas

Erfaring fra stock photos, trafiklys og covid-19.

Har en master i computer science, og var i gang med en phd fellow på aau.

Han er CEO for Armbolt og Advanced Traffic systems (nu Intelligo)

Armbolt projekter:

Inttelligo har lavet et sytem der kan fordele trafikken bedre med en algorithme. Statistisk set hjælper det op mod 55% på reduceret brændstofmængde.

Han er del af HelseBoka (før: Helpdata). HelseBoka er Norges pandemi platform.

Emily er Arnbolts egen IT platform. God til at lave micro services. Cloud løsninger der kan styres med API. Emily er frit tilgængeligt (?). FN’s verdensmål 4, 8 og 9 er tænkt ind i Emily.

Current state of AI

Deep learning og machinelearning bruges ofte som den universelle løsning, i stedet for at analysere problemet grundlæggende inden implementering. Med andre ord arbejdes der blindt.

Der er blevet lavet en masse modeller til at finde ud af hvor kritisk covid 19 forløb ville være. 132 modeller virkede ikke med de samme fejl. 2 modeller virker måske. De modeller der fejler kigger især på fonten der bruges på skaningsbilleder, og om patienter ligger ned eller står op imens billeder bliver taget. I de modeller der virker, er der blevet bygget et x-funktionelt team, hvor der har væeret doktorer og data scientists.

Moralen må være at man altid skal have domæne eksperter inde over løsninger, som kan give modellen mening.

Det er vigtigt at sætte mål, da man uden ikke har noget at arbejde imod.

Human centric design

Human centroc AI består af kode og data. Kode er både modeller og algorithmer, samt datasætet det trænnes på.

Det er vigtigt at stille sig spørgsmålet om AI systemet der vælges passer ind i meneskelig kontekst.

HCAI består af

  1. Use-case
    • Uden har man ai uden formål
  2. Domæne ekspert
    • Uden har man høj chance for bias
  3. AI eksperter
    • uden har man høj risiko for fejl
  4. Data og kode
    • uden har man formål uden AI

I praksis skal man have

  1. Input/data
  2. forudsigelse
    1. Træning
    2. Bedømmelse
  3. action
  4. Resultat
  5. (feedback, som så looper tilbage til træning)