Кредит: ShutterstockВече разчитаме в голяма степен на устройства, свързани с интернет, за да ни прекарат през деня, и те все повече стават изкуствено интелигентни. Дигиталните асистенти като Alexa на Amazon стават все по-популярни, самоуправляващите се автомобили се появяват на хоризонта, а военните тестват дронове, които могат да работят без човешки надзор . Големият въпрос е колко безопасни са тези неща от хакери?
Разровихме се по този въпрос в Научния петък миналата седмица , с група от експерти, които бяха част от скорошен дебат в държавния университет на Аризона за бъдещето на A.I. Ето няколко извода от нашия разговор:
Вече има широко разпространена уязвимост сред нашите свързани устройства.
Вземете колите например.
„Нашите автомобили и други видове устройства от интернет на нещата всъщност са доста хакнати в момента“, каза Катлийн Фишър, професор по компютърни науки в университета Тъфтс.
Например, „има около пет различни начина, по които хакерите могат да достигнат кола отвън чрез Bluetooth интерфейса, който ви позволява да говорите с колата без ръцете си, или чрез телематичното устройство, което урежда да се обадите на линейка, ако сте в инцидент“, каза Фишър. „И след като хакер проникне, те могат да променят софтуера, който контролира как колите спират, ускоряват, или управляват, или правят много други функции.“
„По принцип колите са свързани в мрежа компютри на колела и са доста уязвими на отдалечени атаки“, каза тя.
Медицинските изделия също са податливи.
Например експертът по компютърна сигурност Джеръм Радклиф показаха преди няколко години „че може безжично да хакне неговата инсулинова помпа, за да я накара да доставя неправилни дози лекарства“, добави Фишър.
Електронните системи за гласуване също не са имунизирани.
„Мисля, че интересно нещо е, че колкото повече знаете за компютрите, толкова по-неудобно се чувствате с електронното гласуване“, каза Фишър. „Машината за гласуване ще брои според най-новата версия на софтуера, който е на нея. И това може да е правилната версия на софтуера, който е инсталиран от хората, управляващи изборите, но може да е бил хакнат от някого или някой да е пъхнал флаш устройство и да промени кода. И тогава се брои според новия код.
Защо нашите устройства са толкова податливи?
От една страна, продуктите на Интернет на нещата често се създават без да се имат предвид съображения за сигурност, според Фишър. „Хората са развълнувани от функционалността и услугите, които тези нови устройства предоставят, и бързат да пуснат продукти там“, каза тя. „И ние нямаме много добър начин да гарантираме, че тези устройства са създадени по добри стандарти за сигурност. Много е трудно да се измери сигурността и е много трудно да се монетизира сигурността.“ Кой плаща за сигурността и дали потребителите биха платили премия за сигурни устройства, „наистина не е ясно“, каза Фишър.
Нещо повече, „получаването на наистина добра сигурност е супер труден проблем. Има много, много измерения, които трябва да разберете правилно, ако искате системата да бъде защитена“, каза Фишър.
Помислете за къщата си, например. „За да направите къщата си сигурна, не е достатъчно да заключите входната врата. Трябва да заключите предната и задната врата. И това не е достатъчно. Трябва да заключите всички прозорци“, каза Фишър.
Същото е и в компютъра. „Трябва да заключите всеки вход. Трябва да се уверите, че вашите потребители са добре обучени, че не дават паролата на някой, който се обажда по телефона и убеждава, че е ИТ отделът и се нуждае от паролата. Трябва да имате правилен хардуер“, каза Фишър. „Има много, много неща, които трябва да оправите. И ако не ги направите добре, тогава има уязвимост, в която хакер може да проникне.
Какви видове ИИ атаки, които можем да очакваме?
„Когато изграждаме системи, които са по-умни, те могат да направят повече за нас, използвайки машинно зрение, машинно обучение, за да разберем ситуациите“, каза Субарао Камбампати, професор по компютърни науки и инженерство в Държавния университет на Аризона. „Въвеждаме това, което аз наричам „нови повърхности за атака““ – тоест нови места за възникване на хакове.
При така наречените атаки с машинно обучение хакерът измисля начин да контролира потока от данни, идващи в системата, и да накара системата да прави неща, които дизайнерите не са възнамерявали.
Например миналата година екип от изследователи демонстрира как подаването на фалшиви входове към система за разпознаване на изображения - потенциално от вида, който може да се използва в самоуправляващите се автомобили - може да я накара да класифицира погрешно знака за спиране като знак за отстъпване.
Ерик Хорвиц, управляващ директор на основния клон на Microsoft Research Lab в Редмънд, Вашингтон, имаше донякъде зловеща прогноза: „Мисля, че всички можем да приемем, че след няколко години A.I. системите и усъвършенстваната графика и изобразяване ще могат наистина да подправят вашата самоличност по начини с висока точност, дори видеоклипове, на които говорите и казвате неща, видеоклипове на лидери.
Има ли такова нещо като „устойчивост на хакове“?
За съжаление, „„устойчив на хакване“ е концепция, която не е добре дефинирана“, каза Фишър. „Винаги трябва да говорите за хакване по отношение на модел на заплаха и какви неща можете да си представите да прави един нападател.“
Добрата новина обаче е, че „предстои работа за обмисляне на най-добри практики и потенциално, един ден, стандарти“, според Хорвиц. Той каза, че се е обадила група Партньорство на A.I. в полза на хората и обществото - създаден от Amazon, Apple, Facebook, Google, DeepMind, IBM, Microsoft и други - е създаден с тази цел.
Какви са начините, по които можем да подобрим сигурността?
Както отбеляза Фишър, не можем да разчитаме на доброто старомодно човешко наблюдение. „Хората няма да бъдат достатъчно бързи, за да могат да се намесят смислено в много случаи. А в други случаи сроковете ще бъдат толкова дълги, че хората няма да могат да се намесят“, каза тя. „Така че мисля, че или срокът – твърде кратък или твърде бърз – означава, че хората наистина няма да могат да наблюдават смислено.“
Една от възможностите тогава може да бъде използването на A.I. за борба с A.I. хакове, според Subbarao Kambhampati. „Мисля, че това ще бъде надпревара във въоръжаването“, каза той. „Използваме тези инструменти, защото са много полезни. Но всичко, което е полезно, също може да бъде отвлечено. И вие не се отказвате от това - основно превръщате сигурността и безопасността в цел на поддръжката. И трябва да използвате същата технология, за да работите за гарантиране.
Фишър обаче предупреди, че използването на ИИ. за борба с хакове има своите клопки. „Проблемът е, че тогава сте ограничени от обхвата на системата за изкуствен интелект – как сте я изградили, как сте я обучили, какво сте очаквали и какво сте вградили в нея, или какво е успяла да заключи. Видът неизвестни неизвестни са продължаващо предизвикателство.“
Тези цитати са леко редактирани за по-голяма яснота. За пълен препис щракнете тук и превъртете надолу до „препис“.
