![\"\"](\"https:\/\/vived.io\/wp-content\/uploads\/2021\/08\/5_image-18.png\")
Codex jest bezpo\u015brednim potomkiem GPT-3, (jednego z najpopularniejszych modeli NLP), wyspecjalizowanym w generowaniu kodu \u017ar\u00f3d\u0142owego. Jak twierdzi OpenAI, najlepiej radzi sobie w Pythonie (nie znalaz\u0142em niestety t\u0142umaczenia dlaczego, a przyznam – jest to do\u015b\u0107 ciekawe), ale cechuje si\u0119 r\u00f3wnie\u017c bieg\u0142o\u015bci\u0105 w kilkunastu innych j\u0119zykach, w tym JavaScript, Go, Perl, PHP, Ruby, Swift i TypeScript. Oryginalny \u201cpapier\u201d<\/a> zawiera mas\u0119 szczeg\u00f3\u0142\u00f3w technicznych, ch\u0119tnie wybra\u0142bym si\u0119 na jakie\u015b PapersWeLove analizuj\u0105ce te bebechy.<\/p>\n Codex ma jednak pewne ograniczenia, kt\u00f3re bardzo dog\u0142\u0119bnie zanalizowa\u0142o TechTalks<\/a>. Efektywno\u015b\u0107 modelu jest bowiem nie jest wprost proporcjonalna do rozmiaru danych testowych. Przy 300 milionach parametr\u00f3w Codex rozwi\u0105za\u0142 w statysfakcjonuj\u0105cy spos\u00f3b 13,2% problem\u00f3w. Osi\u0105gni\u0119cie wyniku dwa razy lepszego (28,8% skuteczno\u015bci) wymaga\u0142o ju\u017c modelu sk\u0142adaj\u0105cego si\u0119 12-miliard\u00f3w przyk\u0142ad\u00f3w testowych – to prawie 159 gigabajt\u00f3w kodu \u017ar\u00f3d\u0142owego(!). Jak \u0142atwo si\u0119 wi\u0119c domy\u015ble\u0107, mo\u017ce si\u0119 okaza\u0107 wi\u0119c, \u017ce nawet dostarczenie ca\u0142ego dost\u0119pnego kodu \u017ar\u00f3dlowego jaki wygenerowa\u0142a ludzko\u015b\u0107 nie pozwoli nam na osi\u0105gni\u0119cie jako\u015bci kodu komercyjnego. Psuje to nieco wizj\u0119 \u015bwiata, w kt\u00f3rym Copilot zast\u0105pi programist\u00f3w.<\/p>\n Z kolizj\u0105 hashy jest jak z czarn\u0105 wo\u0142g\u0105 – jest to legenda, kt\u00f3r\u0105 programi\u015bci sobie opowiadaj\u0105, ale raczej nikt nie widzia\u0142 jej w prawdziwym \u017cyciu. Nie wynika to oczywi\u015bcie z tego, \u017ce takowe nie s\u0105 mo\u017cliwe do wygenerowania. Ba, je\u015bli spr\u00f3bujemy samodzielnie stworzy\u0107 w\u0142asn\u0105 funkcje hashuj\u0105c\u0105, na pewno zrobimy co\u015b \u017ale. Sprawa wygl\u0105da troch\u0119 jak z bezpiecze\u0144stwem – w 2021 roku nikt nie pisze takowych od zera. Jako bran\u017ca bazujemy na istniej\u0105cych, sprawdzonych rozwi\u0105zaniach, b\u0119d\u0105c pewnymi, \u017ce \u201ckto\u015b\u201d je sprawdzi\u0142.<\/p>\n W ostatnim tygodniu funkcje hashuj\u0105ce by\u0142y g\u0142o\u015bnym tematem, wywo\u0142a\u0142y mas\u0119 dyskusji i kontrowersji – sta\u0142y si\u0119 bowiem kolejnym or\u0119\u017cem w walce o prywatno\u015b\u0107. Walce oczywi\u015bcie z applowsk\u0105 inicjatyw\u0105 maj\u0105c\u0105 na celu skanowaniu lokalnych zdj\u0119\u0107 na telefonach w celu wykrycia fotografii o sygnaturach identycznych z tymi, jaki znajduj\u0105 si\u0119 w zasobach organizacji chroni\u0105cych dzieci przed przemoc\u0105 seksualn\u0105. Temat opisywali\u015bmy ju\u017c tydzie\u0144 temu, jednak dyskusja na ten temat nie bardzo chce si\u0119 sko\u0144czy\u0107 – i w tym tygodniu mieli\u015bmy do czynienia z kolejnym rozdzia\u0142em wspomnianej epopei.<\/p>\n Ot\u00f3\u017c podczas analiz sposobu dzia\u0142ania algorytmu NeuralHash, u\u017cywanego przez Apple, Cory Cornelius, pracuj\u0105cy jako Research Scientist w Intelu, odnalaz\u0142 potencjaln\u0105 \u201ckolizj\u0119\u201d<\/a> hashy w wykrywanych obrazach. Jak \u0142atwo si\u0119 domy\u015bla\u0107, podzia\u0142a\u0142o to jak p\u0142achta na byka na wszystkich krytyk\u00f3w rozwi\u0105zania Apple – w ko\u0144cu je\u015bli taka kolizja jest mo\u017cliwa, mo\u017cliwe s\u0105 te\u017c \u201cfa\u0142szywe pozytywy\u201d. Oliwy do ognia doda\u0142 fakt, \u017ce po nieca\u0142ej dobie od odkrycia na GitHubie pojawi\u0142 si\u0119 ju\u017c generator rzeczonych kolizji<\/a>. Og\u00f3lnie pokazuje to moc \u201cspo\u0142eczno\u015bci\u201d, zw\u0142aszcza takiej w nienawi\u015bci do Apple wychowanej.<\/p>\n Czy mamy do czynienia z du\u017cym blama\u017cem ze strony firmy? No niekoniecznie. Apple t\u0142umaczy<\/a>, \u017ce analizowana wersja nie jest t\u0105 ostateczn\u0105. Dodatkowo, tematem zaj\u0105\u0142 si\u0119 Brad Dwyer, CTO Roboflow – firmy zajmuj\u0105cej si\u0119 trenowaniem modeli rozpoznaj\u0105cych konkretne obrazy. Pope\u0142ni\u0142 on dwie bardzo interesuj\u0105ce publikacje. Pierwsza<\/a> z nich udowadnia, \u017ce tak naprawd\u0119 wspomniane kolizje nie stanowi\u0105 dla Apple problemu z praktycznego punktu widzenia. Druga idzie o krok dalej<\/a>, uwidaczniaj\u0105c, \u017ce tego typu problemy s\u0105 czym\u015b naturalnym dla wszelkiej ma\u015bci modeli, r\u00f3wnie\u017c najwa\u017cniejszych, takich jak ImageNet.<\/p>\n Ca\u0142o\u015b\u0107 okaza\u0142a si\u0119 by\u0107 burz\u0105 w szklance wody. Pewnie gdyby nie wykrycie w kontrowersyjnym modelu, kwestia kolizji hashy nie utrzymywa\u0142aby si\u0119 przez ca\u0142y tydzie\u0144 na nag\u0142\u00f3wkach agregator\u00f3w.<\/p>\n Sami podczas dyskusji w zespole mamy sporo w\u0105tpliwo\u015bci na temat dzia\u0142a\u0144 Apple i jeste\u015bmy \u015bwiadomi ryzyk z nim zwi\u0105zanych. Czego jednak bardzo nie lubimy to nierzetelno\u015bci i przekr\u0119cania fakt\u00f3w, nawet w s\u0142usznej sprawie. A na ten moment ci\u0119\u017cko jest technologii Apple za wiele zarzuci\u0107. Nie raz wytykali\u015bmy tej firmie hipokryzje, jednak tym razem wszystko wydaje si\u0119 legitnie – przynajmniej z in\u017cynierskiego punktu widzenia.<\/p>\n![\"\"](\"https:\/\/vived.io\/wp-content\/uploads\/2021\/08\/2_image-19.png\")
\u0179r\u00f3d\u0142a<\/h3>\n
\n
2. Czy wykrycie kolizji w NeuralHash to rzeczywi\u015bcie co\u015b gro\u017anego? \ufe0f\u200d\u2642\ufe0f<\/h2>\n
![\"\"](\"https:\/\/vived.io\/wp-content\/uploads\/2021\/08\/img_6128bb034f638.png\")
![\"\"](\"https:\/\/vived.io\/wp-content\/uploads\/2021\/08\/4_image-20.png\")
![\"\"](\"https:\/\/vived.io\/wp-content\/uploads\/2021\/08\/not-bad-continue.jpg\")
\u0179r\u00f3d\u0142a<\/h3>\n
\n
3. Tesla AI Day zapowiada Tesla Bota oraz Dojo – najszybszy superkomputer na \u015bwiecie<\/h2>\n