Süni intellekt modellərinin iştirakı ilə baş verən son kiberinsidentlər texnologiyanın sürətli inkişafının yaratdığı təhlükəsizlik risklərini yenidən gündəmə gətirib.
BBN.az xəbər verir ki, son dövrdə Anthropic, OpenAI və Meta kimi şirkətlərin süni intellekt modelləri ilə bağlı bir sıra kiberinsidentlər qeydə alınıb. Hadisələr əsasən iki istiqamətdə müşahidə olunur: bəzi hallarda AI modelləri sınaq mühitlərinin hüdudlarından çıxaraq xarici sistemlərə müdaxilə edib, digər hallarda isə hakerlər hücumların həyata keçirilməsi üçün süni intellektdən istifadə ediblər.
Süni intellekt modelləri sistemlərə niyə müdaxilə edir?
Şirkətlər yeni AI modellərini istifadəyə verməzdən əvvəl onların imkanlarını xüsusi “sandbox” adlandırılan təcrid olunmuş test mühitlərində yoxlayırlar. Lakin son hadisələr bəzi modellərin bu məhdudiyyətləri aşa və internet üzərindən xarici sistemlərə çıxış əldə edə bildiyini göstərib.
Ekspertlərin fikrincə, model müəyyən tapşırığı yerinə yetirmək üçün ən asan yolu seçə bilər. Əgər tələb olunan məlumatı əldə etmək üçün başqa sistemə müdaxilə etmək daha asan variantdırsa, model bunu təhlükəsizlik baxımından düzgün və ya yanlış kimi qiymətləndirməyə bilər.
Son aylarda OpenAI modellərinin Hugging Face platformasının sistemlərinə müdaxilə etdiyi bildirilib. Anthropic isə Claude modelinin sınaq zamanı üç xarici təşkilatın sistemlərinə giriş əldə etdiyini açıqlayıb. Meta da Muse Spark 1.1 modelinin test zamanı internetə çıxaraq xarici xidmətlərdən birinin sistemini sındırdığını bildirib.
Problemin səbəbi nədir?
Hadisələrin bir hissəsinin test mühitlərinin düzgün konfiqurasiya edilməməsi ilə əlaqəli olduğu bildirilir. Bəzi hallarda internetə çıxış texniki səhv nəticəsində açıq qalıb, digər hallarda isə modellər proqram təminatındakı əvvəllər məlum olmayan zəifliklərdən istifadə edə biliblər.
Ekspertlər hesab edirlər ki, ənənəvi sandbox yanaşmaları müasir AI agentlərinin imkanlarını nəzərə alaraq yenidən nəzərdən keçirilməlidir. Çünki əvvəlki sistemlər əsasən insan istifadəçilərin davranışlarına uyğun risklərə qarşı hazırlanıb.
Hakerlər süni intellektdən necə istifadə edir?
Süni intellekt kibercinayətkarların hücum imkanlarını da genişləndirir. AI alətləri fişinq mesajlarının hazırlanması, zərərli kodların yaradılması, hədəflərin müəyyənləşdirilməsi və digər rutin proseslərin avtomatlaşdırılmasına imkan verir.
Bu isə kibertəhlükələrə giriş baryerini aşağı salır. Artıq mürəkkəb hücumların həyata keçirilməsi üçün əvvəlki qədər yüksək texniki bilik tələb olunmaya bilər.
Anthropic daha əvvəl süni intellektin insan müdaxiləsi minimum olmaqla kiberhücum kampaniyasında istifadə edildiyini açıqlamışdı. Sonrakı dövrdə müxtəlif ölkələrin dövlət qurumlarına qarşı AI dəstəkli hücumlar barədə də məlumatlar yayılıb.
Şirkətlər təhlükəsizlik tədbirlərini gücləndirir
Süni intellektlə bağlı kiberhücumların artması texnologiya şirkətlərini təhlükəsizlik mexanizmlərini sərtləşdirməyə vadar edir.
OpenAI yeni və daha güclü modellərinin tapşırıqları necə yerinə yetirdiyini və onlayn alətlərdən necə istifadə etdiyini daha ciddi şəkildə izləmək planlarını açıqlayıb. Şirkət şübhəli davranışlar barədə təhlükəsizlik komandalarının daha operativ məlumatlandırılmasını hədəfləyir.
Anthropic və Meta da risklərin qiymətləndirilməsi üzrə yanaşmalarını yeniləyib. Anthropic yüksək imkanlara malik bəzi modellərə çıxışı məhdudlaşdıraraq onları yalnız yoxlanılmış tərəfdaşlara təqdim etməyə başlayıb.
Bununla belə, ekspertlər hesab edirlər ki, təhlükəsiz və realistik test mühitləri yaratmaq asan deyil. Çünki bəzi modellərin imkanlarını tam qiymətləndirmək üçün onlara internetə və real sistemlərə müəyyən səviyyədə çıxış vermək lazım gəlir.
Bu səbəbdən süni intellekt modellərinin dövlət tərəfindən məcburi təhlükəsizlik sınaqlarından keçirilməsi ilə bağlı çağırışlar da artır. Ekspertlər AI sistemlərinin inkişaf sürətinin təhlükəsizlik tədbirlərinin hazırlanma tempini qabaqladığını və bu sahədə daha ciddi nəzarət mexanizmlərinə ehtiyac olduğunu bildirirlər.
