Üretken yapay zeka e-posta tehditleriyle mücadele etmek için ne yapılmalı?

İnsan beyni gücü, e-posta aldatmacalarını kullanarak yapay zeka destekli dijital şut ve yakala saldırılarıyla cesaretlenen bilgisayar korsanlarıyla boy ölçüşemez. Sonuç olarak, siber güvenlik savunmaları, bilgisayar korsanlarının stratejilerini onlardan daha iyi bilen yapay zeka çözümleri tarafından yönlendirilmelidir.

BİLİM VE TEKNOLOJİ - İnsan beyni gücü, e-posta aldatmacalarını kullanarak yapay zeka destekli dijital şut ve yakala saldırılarıyla cesaretlenen bilgisayar korsanlarıyla boy ölçüşemez. Sonuç olarak, siber güvenlik savunmaları, bilgisayar korsanlarının stratejilerini onlardan daha iyi bilen yapay zeka çözümleri tarafından yönlendirilmelidir.

Yapay zeka ile daha iyi yapay zeka ile savaşmaya yönelik bu yaklaşım, Mart ayında siber firma Darktrace tarafından e-posta çevresinde insan davranışına ilişkin içgörüleri ortaya çıkarmak için yürütülen araştırmada ideal bir strateji olarak ortaya çıktı. Anket, işletmeleri hedef alan yapay zeka güdümlü korsan tehditlerine karşı koymak için yeni siber araçlara duyulan ihtiyacı doğruladı.

Çalışma, çalışanların potansiyel güvenlik tehditlerine küresel olarak nasıl tepki verdiğini daha iyi anlamaya çalıştı. Ayrıca, daha iyi e-posta güvenliği ihtiyacına ilişkin artan bilgilerinin de grafiğini çizdi.

Darktrace'in ABD, Birleşik Krallık, Fransa, Almanya, Avustralya ve Hollanda'da 6.711 çalışanla yaptığı küresel anket, yanıt verenlerin Ocak'tan Şubat 2023'e kadar binlerce aktif Darktrace e-posta müşterisinde "yeni sosyal mühendislik saldırılarında" %135 artış yaşadığını ortaya koydu. sonuçlar, ChatGPT'nin yaygın olarak benimsenmesine karşılık geldi.

Bu yeni sosyal mühendislik saldırıları, artırılmış metin hacmi, noktalama işaretleri ve hiçbir bağlantı veya ek içermeyen cümle uzunluğu dahil olmak üzere gelişmiş dilbilimsel teknikler kullanır. Araştırmacılara göre bu eğilim, ChatGPT gibi üretken yapay zekanın, tehdit aktörlerine hız ve ölçekte gelişmiş ve hedefli saldırılar gerçekleştirmeleri için bir yol sağladığını gösteriyor.

Darktrace baş ürün sorumlusu Max Heinemeyer'e göre, araştırmadan elde edilen en önemli üç çıkarımdan biri, çoğu çalışanın yapay zeka tarafından oluşturulan e-postaların tehdidi konusunda endişeli olması.

"Bu şaşırtıcı değil, çünkü bu e-postalar genellikle yasal iletişimlerden ayırt edilemiyor ve çalışanların tipik olarak 'sahte' bir iletiyi tespit etmek için aradıkları işaretlerden bazıları, kötü yazım ve dilbilgisi gibi işaretler içeriyor. TechNewsWorld'e söyledi.

Araştırma Sonuçları

Darktrace, perakende, catering ve eğlence şirketlerine, bilgisayar korsanlarının gerçek iletişimden ayırt edilemeyen dolandırıcılık e-postaları oluşturmak için üretken yapay zekayı kullanabileceklerinden ne kadar endişe duyduklarını sordu. Yüzde seksen ikisi endişeli olduklarını söyledi.

Katılımcıların yarısından fazlası, çalışanların bir e-postayı kimlik avı saldırısı olarak düşünmesine neden olan şeyin farkında olduklarını belirtti. İlk üç sırada bir bağlantıya tıklama veya bir eki açma davetleri (%68), bilinmeyen gönderen veya beklenmeyen içerik (%61) ve yetersiz yazım ve dil bilgisi kullanımı (%61) yer alıyor.
Heinemeyer'e göre, ankete katılan Amerikalıların %45'i sahte bir e-postanın tuzağına düştüklerini belirttiği için bu önemli ve rahatsız edici.

"Yapay zeka sohbet robotlarının gerçek dünyadaki konuşmaları giderek daha fazla taklit edebildiği ve kimlik avı saldırısının tüm yaygın belirtilerinden yoksun e-postalar üretebildiği bir dünyada çalışanların e-posta iletişimlerinin meşruiyetini doğrulama yeteneklerinden endişe duymaları şaşırtıcı değil. kötü amaçlı bağlantılar veya ekler” dedi.

Anketin diğer önemli sonuçları arasında şunlar yer alıyor:

Küresel çalışanların %70'i, son altı ayda dolandırıcı e-postaların ve metinlerin sıklığında bir artış fark etti

Küresel çalışanların %87'si, kimlik avı ve diğer e-posta dolandırıcılıklarında kullanılabilecek, kendileri hakkında çevrimiçi olarak mevcut olan kişisel bilgilerin miktarından endişe duyuyor.

Ankete katılanların %35'i ChatGPT veya diğer nesil AI sohbet botlarını denedi

İnsan Hatası Korkulukları

Heinemeyer, ChatGPT gibi üretken AI araçlarına yaygın erişilebilirlik ve ulus devlet aktörlerinin artan karmaşıklığının, e-posta dolandırıcılıklarının her zamankinden daha ikna edici olduğu anlamına geldiğini belirtti.

Masum insan hatası ve içeriden gelen tehditler bir sorun olmaya devam ediyor. Bir e-postayı yanlış yönlendirmek, her çalışan ve her kuruluş için bir risktir. Neredeyse beş kişiden ikisi, yanlışlıkla veya otomatik tamamlama nedeniyle benzer görünen bir takma adla yanlış alıcıya önemli bir e-posta gönderdi. Bu hata, finansal hizmetler sektöründe yarıdan fazlasına (%51) ve hukuk sektöründe %41'e yükselmektedir.

Hatadan bağımsız olarak, bu tür insan hataları, kötü amaçlı olmayan başka bir güvenlik riski katmanı ekler. Kendi kendine öğrenen bir sistem, hassas bilgiler yanlış bir şekilde paylaşılmadan önce bu hatayı tespit edebilir.

Buna yanıt olarak Darktrace, küresel olarak dağıtılan e-posta çözümüne yönelik önemli bir güncelleme duyurdu. Kuruluşlar birincil işbirliği ve iletişim aracı olarak e-postaya güvenmeye devam ettikçe, e-posta güvenlik araçlarının desteklenmesine yardımcı olur.

"Geçmiş tehditlerin bilgisine dayanan e-posta güvenlik araçları, kuruluşları ve çalışanlarını gelişen e-posta tehditlerine karşı geleceğe hazırlamakta başarısız oluyor" dedi.

Heinemeyer'e göre Darktrace'in en yeni e-posta özelliği, fikri mülkiyet veya gizli bilgilerin yanlış alıcıya gönderilmesini önleyen yanlış yönlendirilmiş e-postalar için davranışsal tespitler içeriyor.

AI Siber Güvenlik Girişimi

AI savunmaları, neyin normal olduğunu anlayarak, belirli bir kişinin gelen kutusuna neyin ait olmadığını belirleyebilir. E-posta güvenlik sistemleri bunu çok sık yanlış anlıyor ve yanıt verenlerin %79'u şirketlerinin istenmeyen e-posta/güvenlik filtrelerinin önemli meşru e-postaların gelen kutularına ulaşmasını yanlışlıkla engellediğini söylüyor.

Kuruluşu ve içindeki bireylerin gelen kutularıyla nasıl etkileşime girdiğini derinlemesine anlayan AI, her e-posta için şüpheli olup olmadığını ve işlem yapılması gerekip gerekmediğini veya meşru olup olmadığı ve dokunulmaması gerekip gerekmediğini belirleyebilir.

Heinemeyer, "Geçmiş saldırı bilgisinden yola çıkarak çalışan araçlar, yapay zeka tarafından oluşturulan saldırılarla boy ölçüşemez" dedi.

Saldırı analizi, diğer kimlik avı e-postalarına kıyasla anlamsal ve sözdizimsel olarak dikkate değer bir dilsel sapma gösterir. Bu, geçmişteki tehditler hakkında bilgi sahibi olarak çalışan geleneksel e-posta güvenlik araçlarının bu saldırıların ince göstergelerini tespit etmekte yetersiz kalacağı konusunda çok az şüphe bırakıyor, diye açıkladı.

Bunu destekleyen Darktrace'in araştırması, yerel, bulut ve statik yapay zeka araçları da dahil olmak üzere e-posta güvenlik çözümlerinin, bir kurbana yönelik bir saldırının başlatılmasının ardından ihlal tespit edilene kadar ortalama 13 gün sürdüğünü ortaya çıkardı.

“Bu, yalnızca bu araçlara güvenirlerse, savunucuları neredeyse iki hafta boyunca savunmasız bırakır. İşi anlayan AI savunmaları, bu saldırıları tespit etmek için çok önemli olacaktır” dedi.

AI-İnsan Ortaklıkları Gerekli

Heinemeyer, e-posta güvenliğinin geleceğinin yapay zeka ve insanlar arasındaki bir ortaklıkta yattığına inanıyor. Bu düzenlemede algoritmalar, iletişimin kötü niyetli mi yoksa iyi huylu mu olduğunu belirlemekle görevlidir ve bu sayede sorumluluk yükünü insanın üzerinden alır.

"İyi e-posta güvenlik uygulamaları konusunda eğitim önemlidir, ancak tamamen zararsız iletişimler gibi görünen yapay zeka kaynaklı tehditleri durdurmak için yeterli olmayacaktır" diye uyardı.

AI'nın e-posta alanında sağladığı hayati devrimlerden biri, "siz" hakkında derin bir anlayıştır. Saldırıları tahmin etmeye çalışmak yerine, çalışanlarınızın davranışları e-posta gelen kutularına, ilişkilerine, üslubuna, duygularına ve diğer yüzlerce veri noktasına göre belirlenmelidir.

"E-posta güvenlik tehditleriyle mücadele etmek için yapay zekadan yararlanarak, yalnızca riski azaltmakla kalmıyor, aynı zamanda kurumsal güveni canlandırıyor ve iş sonuçlarına katkıda bulunuyoruz. Bu senaryoda, insanlar daha yüksek düzeyde, daha stratejik uygulamalar üzerinde çalışmak için serbest bırakılıyor” dedi.

Tamamen Çözülemez Bir Siber Güvenlik Sorunu Değil

Saldırgan yapay zeka tehdidi, on yıldır savunma tarafında araştırılıyor. Heinemeyer, saldırganların operasyon becerilerini geliştirmek ve yatırım getirisini en üst düzeye çıkarmak için kaçınılmaz olarak yapay zekayı kullanacaklarını belirtti.

Ancak bu, savunma açısından çözülemez olarak kabul edeceğimiz bir şey değil. İronik bir şekilde, üretken yapay zeka sosyal mühendislik zorluğunu kötüleştiriyor olabilir, ancak sizi bilen yapay zeka savuşturma olabilir" diye tahminde bulundu.

Darktrace, saldırgan ortamındaki bu kaçınılmaz evrim öncesinde savunmalarının etkinliğini sürekli olarak test etmek için şirketin teknolojisine karşı saldırgan AI prototiplerini test etti. Şirket, derin bir iş anlayışıyla donanmış yapay zekanın, gelişmeye devam eden bu tehditlere karşı savunmanın en güçlü yolu olacağından emin.