{"id":10100,"date":"2021-08-07T09:36:53","date_gmt":"2021-08-07T07:36:53","guid":{"rendered":"https:\/\/vived.io\/software-craftsmanship-saturday-vol-49\/"},"modified":"2022-09-19T13:20:09","modified_gmt":"2022-09-19T11:20:09","slug":"software-craftsmanship-saturday-vol-49","status":"publish","type":"post","link":"https:\/\/vived.io\/pl\/software-craftsmanship-saturday-vol-49\/","title":{"rendered":"Software Craftsmanship Saturday vol. 49"},"content":{"rendered":"

1. Czy AI pomog\u0142o w Pandemii? \u200d<\/h2>\n

Covid-19 mocno namiesza\u0142 (i ci\u0105gle tak naprawd\u0119 miesza). Jak to m\u00f3wi\u0105 \u201cszkoda zmarnowa\u0107 taki dobry kryzys\u201d – sytuacja ekstremalna pozwoli\u0142a poeksperymentowa\u0107 z rzeczami, kt\u00f3re wcze\u015bniej wydawa\u0142y si\u0119 by\u0107 nierealne – jak pna przyk\u0142ad praca zdalna, ale nie tylko.<\/p>\n

Od samego pocz\u0105tku starano si\u0119 walczy\u0107 z pandemi\u0105 za pomoc\u0105 technologii. Ka\u017cdy chyba pami\u0119ta kazus Prote Go (je\u015bli nie – polecam bardzo \u201centertajning\u201d odcinek podcastu Niebezpiecznika<\/a> w temacie) i podobnych tego typu aplikacji u\u017cywanych na ca\u0142ym \u015bwiecie. Nawet tw\u00f3rcy mobilnych system\u00f3w operacyjnych dok\u0142adali swoj\u0105 cegie\u0142k\u0119, tworz\u0105c specjalne API<\/a> u\u0142atwiaj\u0105ce tak zwany \u201cContact Tracing\u201d. Pandemia mia\u0142a by\u0107 te\u017c \u201cstres testem” dla ca\u0142ego sektora Machine Learning. Artyku\u0142 z MIT Technology Review<\/a> podsumowuje, jak wygl\u0105daj\u0105 jego efekty.<\/p>\n

\"\"
Ale nie uprzedzajmy fakt\u00f3w<\/figcaption><\/figure>\n

No i co\u017c\u2026 ju\u017c po samym tytule (w wolnym t\u0142umaczeniu \u201cZbudowano setki narz\u0119dzi AI do wykrywania Covid. \u017badne z nich nie pomog\u0142o.\u201d) wygl\u0105daj\u0105 \u015brednio. Publikacja punktuje pewne og\u00f3lne grzechy dzisiejszych bada\u0144 naukowych, jeszcze mocniej wyolbrzymione przez szczeg\u00f3ln\u0105 wra\u017cliwo\u015b\u0107 danych medycznych. Zamiast jednego zbioru danych testowych powstawa\u0142y dziesi\u0105tki ma\u0142ych, niekompatybilnych ze sob\u0105, a przez to zbyt niewystarczaj\u0105cych, \u017ceby osi\u0105gn\u0105\u0107 dobre wyniki. Brak\u0142o r\u00f3wnie\u017c przemy\u015blanych instrukcji anotowania danych. Przyk\u0142adowo, konkretne przypadki by\u0142y okre\u015blane jako Covidowe na zbyt wczesnym etapie – je\u015bli lekarz prowadz\u0105cy stwierdzi\u0142, \u017ce pacjent zosta\u0142 zaka\u017cony. To w\u0142a\u015bnie ta informacja (a nie dane o rzeczywistym przebiegu choroby) by\u0142y u\u017cywane do stworzenia modeli. W ten spos\u00f3b nieuniknione b\u0142\u0119dy ludzi replikowa\u0142y si\u0119 na algorytmy.<\/p>\n

\"\"<\/figure>\n

Na szcz\u0119\u015bcie publikacja nie jest artyku\u0142em Faktu, a raportem z MIT, wi\u0119c jego tw\u00f3rcy zamiast bawi\u0107 si\u0119 w \u201cdoomsaying\u201d pochylili si\u0119 nad tematem szerszej. Autorzy artyku\u0142u (a bardziej precyzyjnie – autorzy akademickiego przegl\u0105du wynik\u00f3w<\/a>, na kt\u00f3rym si\u0119 opiera) traktuj\u0105 pandemi\u0119 jako lekcj\u0119, kt\u00f3ra pozwoli nam w przysz\u0142o\u015bci podej\u015b\u0107 do tematu w spos\u00f3b lepszy i bardziej zorganizowany.<\/p>\n

O ile z Covidem posz\u0142o \u015brednio, o tyle du\u017co lepiej idzie modelom systematyczny rasizm<\/strong>. Troch\u0119 \u015bmieszkuj\u0119, ale w zesz\u0142ym tygodniu pewn\u0105 popularno\u015b\u0107 na Twitterze zdoby\u0142 w\u0105tek<\/a>, w kt\u00f3rym Luke Oakden-Rayner, dyrektor ds. Bada\u0144 Obrazowanie Medycznego w Australijskim Instytucie Uczenia Maszynowego podzieli\u0142 si\u0119 wczesnymi wynikami bada\u0144 dotycz\u0105cych \u201czbiasowania\u201d modeli MLowych pod k\u0105tem rasy.<\/p>\n

\n
\n

#Medical<\/a> #AI<\/a> has the worst superpower… Racism<\/p>\n

We’ve put out a preprint reporting concerning findings. AI can do something humans can’t: recognise the self-reported race of patients on x-rays. This gives AI a path to produce health disparities.<\/p>\n

1\/8https:\/\/t.co\/lcmMip3noK<\/a> pic.twitter.com\/YTYh5TlBnD<\/a><\/p>\n

\u2014 Luke Oakden-Rayner (@DrLukeOR) August 2, 2021<\/a><\/p><\/blockquote>\n