Mennyi idő múlva törik fel az AI-rendszereket kreatív új módokon?

A legújabb mesterséges intelligencia technikákat rohamos ütemben alkalmazzák a vállalatok. Nemsokára a hackerek is elkezdhetnek közelebbről szemügyre venni, és mindenféle bajt okozhatnak, ha illuzórikus adatokkal csalják meg ezeket a rendszereket.

Ian Goodfellow, az OpenAI kutatója, aki úttörő munkát végzett a gépi tanulási rendszerek megtévesztésében, egy nemrégiben Barcelonában (Spanyolország) tartott mesterségesintelligencia-konferencián elmondta, hogy a rendszerek megtámadása egyszerű. Szinte bármi rossz, ami eszébe jut egy gépi tanulási modellnek, azonnal megtehető – mondta. És ezt megvédeni nagyon-nagyon nehéz.

youtube szabályok és előírások 2021

Az elmúlt néhány évben a kutatók különféle módokat mutattak be a gépi tanulási programok manipulálására azáltal, hogy kihasználják az adatok mintázatainak észlelésére való hajlamukat. Sebezhetőek, részben azért, mert hiányzik belőlük a tényleges intelligencia. Például egy hirdetőtábla segítségével ráveheti az önvezető autók látórendszerét, hogy olyan dolgokat lássanak, amelyek nincsenek ott. A nem hallható jelek rávehetik a hangvezérlésű asszisztenseket, hogy nem kívánt műveleteket hajtsanak végre, például felkeressenek egy webhelyet és letöltsenek egy rosszindulatú programot.



Goodfellow és mások ellenintézkedéseket dolgoznak ki. Egy gépi tanulási rendszert meg lehet tanítani a félrevezető példák felismerésére, majd figyelmen kívül hagyására. De nehéz minden lehetséges támadás ellen védekezni.

A gépi tanulási rendszerek megtévesztése több lehet, mint egy tudományos gyakorlat. Ez nagyon is valóságos – mondja Patrick McDaniel, a Pennsylvaniai Állami Egyetem professzora, aki feltárta a kérdést. A gépi tanulási rendszerek mindenféle olyan funkciót hajtanak végre, amelyekkel az ellenfelek pénzt szerezhetnek, így a szervezett és kifinomult támadók felkarolják ezeket a támadásokat.

McDaniel rámutat, hogy a hackerek évek óta túlszárnyalják a gépi tanulási rendszereket. A levélszemétküldők például hamis e-mailekkel táplálták be a tanulási algoritmusokat, hogy lehetővé tegyék a spam üzenetek későbbi átjutását. Azt mondja, nem sok időbe telik, mire kifinomultabb támadások jelennek meg.

Az első támadások hamarosan megérkeznek az online osztályozási rendszerek ellen, mondja McDaniel. Ide tartozhatnak a modern spamszűrők, az illegális vagy szerzői jogvédelem alatt álló anyagok észlelésére tervezett rendszerek, valamint a fejlett, gépi tanuláson alapuló számítógépes biztonsági rendszerek.

Egy új tanulmány szerint a probléma a korábban ismertnél szélesebb körben elterjedt lehet. Azt mutatja, hogy bizonyos megtévesztések újra felhasználhatók különböző gépi tanulási rendszerek ellen, vagy akár egy nagy fekete doboz rendszer ellen is, amelyről a támadónak nincs előzetes ismerete.

Az ezekben a népszerű gépi tanulási eszközökben megbúvó hibák egy másik módszert jelenthetnek a célzásukra. Az új gépi tanulási eszközök gyors ütemben fejlődnek, és gyakran ingyen adják ki online, mielőtt aktív szolgáltatásokban, például képfelismerő vagy természetes nyelvelemző eszközökben alkalmaznák őket.

Ugyanezen a spanyolországi konferencián Octavian Suciu, a Marylandi Egyetem PhD-hallgatója számos ilyen sebezhetőséget emelt ki néhány népszerű eszközben. Suciu elemezte e programok forráskódját, és úgy találta, hogy az manipulálható. Problémákat talált azzal kapcsolatban, ahogy egyes eszközök információkat tárolnak a memóriában, ami azt jelenti, hogy egy nagyon nagy adat betáplálása felülírhatja a program egy részét, megváltoztatva a viselkedését.

élhetnek-e emberek a földön kívül más bolygókon is

Suciu úgy véli, hogy ez a megközelítés praktikus módot nyújthat például egy olyan eszköz manipulálására, amely részvény-előrejelzéseket kínál, amelyek aztán a piac rövidre zárására használhatók. Ha [egy modell] azt mondja, hogy a részvény emelkedni fog, módosíthatja az előrejelzést, és azt mondja, hogy csökkenni fog, mondja.

elrejt

Tényleges Technológiák

Kategória

Nincs Kategorizálva

Technológia

Biotechnológia

Technikai Politika

Klímaváltozás

Ember És Technológia

Szilícium-Völgy

Számítástechnika

Mit News Magazin

Mesterséges Intelligencia

Tér

Okos Városok

Blockchain

Feature Story

Alumni Profil

Öregdiák Kapcsolat

Mit News Funkció

1865

Az Én Nézetem

77 Mass Ave

Ismerje Meg A Szerzőt

Profilok A Nagylelkűségben

Az Egyetemen Látható

Öregdiák Levelei

Hírek

Mit News Magazine

Választások 2020

Indexszel

A Kupola Alatt

Tűzoltótömlő

Végtelen Történetek

Pandémiás Technológiai Projekt

Az Elnöktől

Fedősztori

Képgaléria

Ajánlott