{"id":1600,"date":"2021-12-09T13:11:46","date_gmt":"2021-12-09T12:11:46","guid":{"rendered":"https:\/\/maxfest.dk\/port\/?p=1600"},"modified":"2021-12-09T13:11:47","modified_gmt":"2021-12-09T12:11:47","slug":"etik-og-design-noter-black-box-case","status":"publish","type":"post","link":"https:\/\/maxfest.dk\/port\/skiftligt-materiale\/noter\/etik-og-design-noter-black-box-case\/","title":{"rendered":"Etik og design noter &#8211; Black box case"},"content":{"rendered":"\n<p>Det er essentielt at kunne stole p\u00e5 sine modeller man har lavet. Med en black box kan vi oftest ikke se andet end resultaterne, hvilket ikke giver meget at stole p\u00e5.<\/p>\n\n\n\n<p>Med observation kan vi l\u00e6re hvorfor en mode fejler.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Forklaringsmodeller &#8211; forklaring af hvorfor et resultat opn\u00e5es<\/h2>\n\n\n\n<p>I black box modeller er det ikke ligefrem logisk at opn\u00e5 en forklaring af hvorfor et resultat opn\u00e5es.<\/p>\n\n\n\n<p>En l\u00f8sning er i billede classification at bruge heatmaps af kritiske omr\u00e5der der er grundlag for classifikation, s\u00e5 man kan se hvad der er grundlag for klassifiseringen.<\/p>\n\n\n\n<p>Er der en samenh\u00e6ng mellem heatmaps og forventninger af hvad mennesker ser? Man kan argumentere at hvis det der fremh\u00e6ves er det objekt man s\u00f8ger efter, s\u00e5 vil det give mening. Men det er ikke altid tilf\u00e6ldet. Maskiner har bias. Som data scientist vil vi gerne ung\u00e5 bias.<\/p>\n\n\n\n<p>Ved at kigge p\u00e5 hvad et menneske observerer i et eye tracking eksperiment, kan man f\u00e5 data p\u00e5 hvad mennesker kigger p\u00e5 for at klassifisere et objekt. Det kan man s\u00e5 bruge til sammenligne heatmaps fra menneske og model, og observere om maskinen kigger p\u00e5 hvad mennesker g\u00f8r.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Det er essentielt at kunne stole p\u00e5 sine modeller man har lavet. Med en black box kan vi oftest ikke se andet end resultaterne, hvilket ikke giver meget at stole p\u00e5. Med observation kan vi l\u00e6re hvorfor en mode fejler. Forklaringsmodeller &#8211; forklaring af hvorfor et resultat opn\u00e5es I black box modeller er det ikke&#8230;<\/p>\n","protected":false},"author":1,"featured_media":715,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[36,30],"class_list":["post-1600","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noter","tag-etik-og-design","tag-sdu"],"_links":{"self":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts\/1600","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/comments?post=1600"}],"version-history":[{"count":3,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts\/1600\/revisions"}],"predecessor-version":[{"id":1603,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/posts\/1600\/revisions\/1603"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/media\/715"}],"wp:attachment":[{"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/media?parent=1600"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/categories?post=1600"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/maxfest.dk\/port\/wp-json\/wp\/v2\/tags?post=1600"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}