{"id":1587,"date":"2021-11-18T14:05:59","date_gmt":"2021-11-18T13:05:59","guid":{"rendered":"https:\/\/maxfest.dk\/port\/?p=1587"},"modified":"2021-11-18T14:06:00","modified_gmt":"2021-11-18T13:06:00","slug":"etik-og-design-noter-18-11-2021","status":"publish","type":"post","link":"https:\/\/maxfest.dk\/port\/skiftligt-materiale\/noter\/etik-og-design-noter-18-11-2021\/","title":{"rendered":"Etik og design noter &#8211; 18\/11 2021"},"content":{"rendered":"\n<p>Opl\u00e6g fra Mohammad Sabet om Explainable AI.<\/p>\n\n\n\n<p>Det kan v\u00e6re sv\u00e6rt at forklare hvordan man f\u00e5r svar ud fra deep learning modeller i data science. Is\u00e6r i industrien hvor man arbejder med end-user, eller medicin verdenen er det vigtigt at man kan have tiltro til maschine learning modellen. De har en naturlig skepsis for ukendtheden. Det er vigtgit at man kan forklare hvordan resultater n\u00e5es. Det er lige s\u00e5 vigtig at kunne forklare sine modeller som at f\u00e5 gode resultater.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Hvad er machine learning<\/h2>\n\n\n\n<p>Typisk ml model: Input &#8211;> Black box &#8211;> Output<\/p>\n\n\n\n<p>ML interpretation. Med en ML kan man f\u00e5 accuracy og interpretability trade off. Det er opstilling af hvor pr\u00e6cisionen af en modellen har en negativ sammenh\u00e6ng i hvor nemt det er at forklare hvordan man er n\u00e5et frem til sine resultater.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Hvorvor at machine learning vigtigt<\/h2>\n\n\n\n<ul class=\"wp-block-list\" id=\"block-5f1b884f-474d-419e-84cb-7e452d64447c\"><li>Commercielt<ul><li>Der kan v\u00e6re finansielt grundlag i beslutninger der kan v\u00e6re vigtigt at forst\u00e5<\/li><\/ul><\/li><li>Tiltro<ul><li>Det er nemmere at have tiltro til en ML model n\u00e5r den (nemt) kan forklares.<\/li><\/ul><\/li><li>Lov<ul><li>Der er lov krav til at man skal forklare hvordan man kommer frem til resultater i GDPR n\u00e5r man arbejder med persondata. eller man arbejder for en kunde.<\/li><\/ul><\/li><li>Teknisk drive<ul><li>Viden om hvorfor ens model er vigtigt.<ul><li>Forst\u00e5 &#8216;hvorfor&#8217; kan hj\u00e6lpe med at forst\u00e5 data<\/li><li>Forst\u00e5 edge cases og fejl under omst\u00e6ndigheder<\/li><li>Forbedring af model<\/li><\/ul><\/li><\/ul><\/li><li>Social og etisk perspektiv<ul><li>Interpretation &#8211; er et godt v\u00e6rkt\u00f8j til at finde bias<\/li><li>Machine lerning modeller kan nemt opn\u00e5 bias, som kan v\u00e6re skadeligt for grupper af mennesker.<\/li><\/ul><\/li><\/ul>\n\n\n\n<h2 class=\"wp-block-heading\">Hvorfor intepreation af ML modeller er sv\u00e6rt<\/h2>\n\n\n\n<p>I ML modeller sammens\u00e6ttes variabler\/features p\u00e5 en sopistikeret m\u00e5de, som kan g\u00f8re det sv\u00e6r at forklare hvordan resultater opn\u00e5es. Nogle tilf\u00e6lde kan dog v\u00e6re let. Som f.eks. lin\u00e6re modeller.<\/p>\n\n\n\n<p>Explainable AI kan give et interface, hvor en bruger har mulighed for at l\u00e6re f.eks.<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Hvordan et resultat opn\u00e5es<\/li><li>Hvordan modellen fungerer<\/li><li>Hvorfor det virker<\/li><li>Hvorn\u00e5r det ikke vikrer<\/li><li>Hvorn\u00e5r der kan v\u00e6re skepsis<\/li><li>Hvordan man retter fejl<\/li><li>Hvordan fejl opst\u00e5r<\/li><\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">Transpeans<\/h3>\n\n\n\n<p>Metoder til at f\u00f8re en model forklarbar<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Simulans<\/li><li>Kan reproduceres<\/li><li>Algorytmisk transperans<\/li><\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">Post-hoc forklaring<\/h3>\n\n\n\n<p>V\u00e6rkt\u00f8jer en model kan genere til sine forudsigelser.<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Text froklaringer<\/li><li>Visualisering<\/li><li>Lokal forklaring.<\/li><\/ul>\n\n\n\n<h2 class=\"wp-block-heading\">Deep learning models<\/h2>\n\n\n\n<h3 class=\"wp-block-heading\">State of the art XAI<\/h3>\n\n\n\n<p>Generel fremgang:  Lav model der performer godt, og s\u00e5 find ud af hvordan det virker, og juster modellen til at v\u00e6re bedre forklarbar (trade off med  pr\u00e6cision.<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Gradient-based &#8211; Anvendelse af visuelle hj\u00e6lpemidler, som f.eks. heatmap. Se Grad-CAM.<\/li><li>Perturbation-based &#8211; finder effekt af udv\u00e6lgelse af dele af input til at manipulere model. Se RISE.<\/li><li>Approximation-based &#8211; black-box modeller der analyseres og g\u00e6ttes lokalt med simplere forst\u00e5elige modeller. Se LIME.<\/li><\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">Udfordringer<\/h3>\n\n\n\n<p>Klasificering. L\u00f8sningsforslag &#8211; gradient mask med heatmap.<\/p>\n\n\n\n<p>Generate feature image masks<\/p>\n\n\n\n<ol class=\"wp-block-list\"><li>Geneer feature image masks med input billede i en CNN model<\/li><li>Udregn lignende forskelle og unikhed.<\/li><li>Forklar udregningen og forusigelsen af CNN visuelt.<\/li><\/ol>\n\n\n\n<p>Man kan pr\u00f8ve et m\u00e5le pr\u00e6cision kun med varme omr\u00e5der i heatmap, eller fjerne omr\u00e5der. Gode modeller vil hurtigt tilpasse sig logisk.<\/p>\n\n\n\n<p>Man kan f\u00e5 mennesker til at pr\u00f8ve at bruge mennesker til at validere resultater fra modeller. De skal s\u00e5 forkalre hvorfor modeller n\u00e5r deres resultater.<\/p>\n\n\n\n<p><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Opl\u00e6g fra Mohammad Sabet om Explainable AI. Det kan v\u00e6re sv\u00e6rt at forklare hvordan man f\u00e5r svar ud fra deep learning modeller i data science. Is\u00e6r i industrien hvor man arbejder med end-user, eller medicin verdenen er det vigtigt at man kan have tiltro til maschine learning modellen. De har en naturlig skepsis for ukendtheden&#8230;.<\/p>\n","protected":false},"author":1,"featured_media":715,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[36,30],"class_list":["post-1587","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noter","tag-etik-og-design","tag-sdu"],"_links":{"self":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts\/1587","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/comments?post=1587"}],"version-history":[{"count":6,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts\/1587\/revisions"}],"predecessor-version":[{"id":1593,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts\/1587\/revisions\/1593"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/media\/715"}],"wp:attachment":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/media?parent=1587"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/categories?post=1587"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/tags?post=1587"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}