Birleşik Krallık Ulusal Siber Güvenlik Merkezi (NCSC), yapay zeka (AI) araçlarının siber güvenlik üzerinde yakın vadeli bir etkiye sahip olacağı ve fidye yazılımı tehdidini artırmaya yardımcı olacağı konusunda uyarıyor.
Ajans, siber suçluların zaten çeşitli amaçlar için AI kullandıklarını ve fenomenin önümüzdeki iki yıl içinde kötüleşmesi ve siber saldırıların hacmini ve şiddetini artırmaya yardımcı olması bekleniyor.
NCSC, AI'nın deneyimsiz tehdit aktörleri, kiralık korsanlar ve düşük vasıflı hacktivistlerin, aksi takdirde önemli zaman, teknik bilgi ve operasyonel çaba gerektirecek daha etkili, özel saldırılar yapmalarını sağlayacağına inanıyor.
ChatGPT ve Bing Chat gibi mevcut büyük öğrenme modeli (LLM) platformlarının çoğu, platformun kötü niyetli içerik oluşturmasını önleyen güvencelere sahiptir.
Bununla birlikte, NCSC, siber suçluların, özellikle suç faaliyetlerini desteklemek için tasarlanmış özel üretken AI hizmetleri işçiliği ve pazarlamaları konusunda uyarıyor. Örnekler arasında, tehdit aktörlerinin kötü amaçlı yazılım ve kimlik avı yemleri de dahil olmak üzere kötü niyetli içerik üretmesini sağlayan ücretli bir LLM hizmeti olan Wormgpt.
Bu, teknolojinin kontrollü, güvenli çerçevelerin sınırlarından kaçtığını ve daha geniş cezai ekosistemde erişilebilir hale geldiğini gösteriyor.
NCSC'yi ayrı bir tehdit değerlendirmesinde uyarıyor "Fidye yazılımı aktörleri de dahil olmak üzere tehdit aktörleri, siber operasyonların yönlerinin etkinliğini ve etkinliğini artırmak için zaten AI kullanıyor."
"Bu eğilim neredeyse kesinlikle 2025 ve ötesine devam edecek."
Raporda, AI'nın siber risk manzarasındaki rolünün evrimsel olması ve dönüştürücü olmaktan ziyade mevcut tehditleri geliştirmesi bekleniyor.
NCSC'nin değerlendirmesinin kilit noktaları şunlardır:
Aşağıdaki tablo, AI'nın üç beceri seviyesi için belirli tehdit alanları üzerindeki etkilerini özetlemektedir.
Sofistike APT'ler için NCSC, AI'nın kaçınma özel kötü amaçlı yazılımları daha kolay ve daha hızlı üretmelerine yardımcı olacağına inanıyor.
"AI, mevcut güvenlik filtreleri tarafından algılamadan kaçabilecek kötü amaçlı yazılım oluşturma potansiyeline sahiptir, ancak yalnızca kaliteli istismar verileri konusunda eğitilirse," diye açıklıyor NCSC
Diyerek şöyle devam etti: "Yüksek yetenekli devletlerin, bu amaç için bir AI modelini etkili bir şekilde eğitecek kadar büyük olan kötü amaçlı yazılım depolarına sahip olması gerçekçi bir olasılık var."
Orta düzeydeki hackerlar öncelikle keşif, sosyal mühendislik ve veri çıkarma alanında avantajlar elde ederken, daha az yetenekli tehdit aktörleri zorlu kalan yanal hareket hariç, yönetim kurulunda geliştirmeler görecektir.
Analiz, "AI'nın kötü amaçlı yazılımlara yardımcı olması ve mevcut teknikleri daha verimli hale getirerek yanal harekete yardımcı olması muhtemeldir."
"Bununla birlikte, yakın vadede, bu alanlar insan uzmanlığına güvenmeye devam edecektir, yani sınırlı bir artış, zaten yetenekli olan mevcut tehdit aktörleriyle sınırlı olacaktır."
Genel olarak, NCSC, üretken AI ve büyük dil modellerinin, deneyim ve beceri düzeyine bakılmaksızın, kimlik avı, sahtekarlık ve sosyal mühendislik girişimlerini tanımlamasını son derece zorlaştıracağı konusunda uyarıyor.
AI'nın Siber Güvenlikte Oynadığı İkili Rol: Nasıl Önde Kalınır
Su Hizmetleri Dev Veolia Kuzey Amerika Fidye Yazılımı Saldırısı
Hacker'lardan Yardım Masası Güvenliği: MGM ihlalinden ne öğrenebiliriz
BreachForums yöneticisi, VPN, Monitorated PC kullandığı için tekrar hapse atıldı
Varonis, Veri Güvenliği ve Olay Yanıtını Dönüştürmek İçin Athena AI'yı tanıttı
Kaynak: Bleeping Computer