Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

Ocena: +2 0

Reklama

Wybrane dla Ciebie

Prof. Zybertowicz dla PAP: ChatGPT to przełom negatywny; następuje przekroczenie bezpiecznej granicy rozwoju technologii

W mojej ocenie to przełom o negatywnym charakterze; następuje bowiem przekroczenie bezpiecznej granicy rozwoju technologii. Można nawet powiedzieć – takie głosy są obecne – że szerokie udostępnienie ChatuGPT to w istocie eksperyment nieetyczny - zauważył w rozmowie z PAP prof. Andrzej Zybertowicz, socjolog i doradca prezydenta RP.

"Zazwyczaj, zanim przeprowadzi się eksperyment na ludziach czy zwierzętach, jego możliwe skutki są obowiązkowo oceniane przez specjalne komisje. W tym przypadku poważna ingerencja w tkankę społeczną całej ludzkości przebiega żywiołowo" - wyjaśnił profesor.„To wypuszczenie w przestrzeń społeczną narzędzia, które potęguje zgiełk informacyjny. Żyjemy w cyfrowej infosferze nasączającej nas każdego dnia strumieniami informacji, które nie układają się w wiedzę, nie układają się w prawdę ani w opowieści sensownie tłumaczące świat. Generowanie kolejnych fal informacji sprzyja dezinformacji rodzącej głębokie spolaryzowanie w wielu krajach. To zaś obok samotności staje się jednym z głównych wyzwań wielu nowoczesnych społeczeństw” – przestrzegł socjolog, mówiąc o zagrożeniach związanych z ChatemGPT.

CZYTAJ DALEJ

Za mały mój rozum na tę Tajemnicę, milknę, by kontemplować

2024-03-29 06:20

[ TEMATY ]

Wielki Piątek

rozważanie

Adobe. Stock

W czasie Wielkiego Postu warto zatroszczyć się o szczególny czas z Panem Bogiem. Rozważania, które proponujemy na ten okres pomogą Ci znaleźć chwilę na refleksję w codziennym zabieganiu. To doskonała inspiracja i pomoc w przeżywaniu szczególnego czasu przechodzenia razem z Chrystusem ze śmierci do życia.

Dzisiaj nie ma Mszy św. w kościele, ale adorując krzyż, rozważamy miłość Boga posuniętą do ofiary Bożego Syna. Izajasz opisuje Jego cierpienie i nagrodę za podjęcie go (Iz 52, 13 – 53, 12). To cierpienie, poczynając od krwi ogrodu Oliwnego do śmierci na krzyżu, miało swoich świadków, choć żaden z nich nie miał pojęcia, że w tym momencie dzieją się rzeczy większe niż to, co widzą. „Podobnie, jak wielu patrzyło na niego ze zgrozą – tak zniekształcony, niepodobny do człowieka był jego wygląd i jego postać niepodobna do ludzi – tak też wprawi w zdumienie wiele narodów. Królowie zamkną przed nim swoje usta, bo ujrzą coś, o czym im nie mówiono, i zrozumieją coś, o czym nigdy nie słyszeli” (Iz 52, 14n). Krew Jezusa płynie jeszcze po Jego śmierci – z przebitego boku wylewa się zdrój miłosierdzia na cały świat. Za mały mój rozum na tę Tajemnicę, milknę, by kontemplować.

CZYTAJ DALEJ

Abp Jędraszewski: niektórzy rządzący usiłują zafundować narodowi holokaust nienarodzonych

2024-03-29 10:20

[ TEMATY ]

abp Marek Jędraszewski

kalwaria

Kalwaria Zebrzydowska

Archidiecezja Krakowska

Abp Marek Jędraszewski, zwracając się w Wielki Piątek do pielgrzymów w Kalwarii Zebrzydowskiej, apelował o ochronę życia od poczęcia do naturalnej śmierci. Mówił, że niektórzy rządzący w imię wolności kobiet usiłują "zafundować narodowi kolejny holokaust nienarodzonych".

Metropolita krakowski, mówiąc do dziesiątków tysięcy wiernych, wskazywał, że nowożytna Europa nie chce mieć niż wspólnego z Chrystusem i Ewangelią, nie chce słyszeć o Bogu, który przejmuje się losem człowieka. W imię czystego rozumu potępia wiarę, ogłaszając ją jako zabobon.

CZYTAJ DALEJ

Reklama

Najczęściej czytane

W związku z tym, iż od dnia 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia Dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) uprzejmie Państwa informujemy, iż nasza organizacja, mając szczególnie na względzie bezpieczeństwo danych osobowych, które przetwarza, wdrożyła System Zarządzania Bezpieczeństwem Informacji w rozumieniu odpowiednich polityk ochrony danych (zgodnie z art. 24 ust. 2 przedmiotowego rozporządzenia ogólnego). W celu dochowania należytej staranności w kontekście ochrony danych osobowych, Zarząd Instytutu NIEDZIELA wyznaczył w organizacji Inspektora Ochrony Danych.
Więcej o polityce prywatności czytaj TUTAJ.

Akceptuję