Mixture of Agents (MoA) ile Yapay Zekalardan Oluşan Otonom Siber Güvenlik Ekibi Dizaynı — Part 1
Dev parametreli LLM modellerinin başarısına artık, onlarca kat küçük modellerle yaklaşmaya başladık. Ama tabiki dev modellerin yerini bazı konularda alamıyorlar; Nedensel-düşünme, Düşünme-Zinciri gibi kritik patternlerde eksik kalıyorlar. Özellikle Causal Reasoning gibi zorlu pattern konularındaküçük modelleri CR datasetler ile eğitim verdiğimizde modellerin benchmark’larda kritik düşüşler gösterdiği akademik çalışmalarda görülüyor. Bu nedenle, küçük modellerin avantajları olduğu gibi dezavantajlara da sahip olduğu kanısına varabiliriz. Aynı şekilde dev modellerin (+235B) parametreli modelleri finetune etmek bir yana, çalıştırmak bile çok yüksek maliyetlere sebep olmakta; Aynı zamanda bütçeyi ayarlayabilseniz bile bu ölçekte modelleri doğru finetune etmek oldukça fazla deneme ve bilgi isteyecektir. O nedenle yapay zeka sistemlerinin tasarımı, tek ve monolitik zekalardan, artık dağıtık ve ortak çalışan yapay zeka topluluklarına doğru dönüşüm geçiriyor. Bu değişimde devreye MoA gibi yapı ve mimari yaklaşımlar giriyor.
MoA, MoE’nin (Mixture of Experts) temel fikirleri üzerine inşa edilmiştir, farklı olarak karma yapıyı modelin içi katman seviyesindense modeller arası sistem seviyesinde sağlamasıdır. Bu nedenle de, token’ları model içinde yer alan küçük uzman alt ağlara yönlendirmek yerine, agentic olarak hareket eden bağımsız ve farklı farklı alanlarda eğitilmiş LLM’lere yönetir.
Geleneksel yaklaşımda hep alışkın olduğumuz; tek bir modeli ölçeklendirerek modelin yeteneklerini artırmaya odaklanırdık. Ama MoA da problem çözme sürecini kendi ayrıştırır ve model parçalarını ayrı ve ayrı ayrı finetune edilmiş LLM’lere atar. Bu, Ai model tasarımı mimarisinin monolitik yapıdan mikroservislere evriminide bize gösterir; yani MoA, her bir ajanın tam bağımsız ve özel bir hizmet olduğu, bir mikroservis mimarisini oluşturur. Bu yapı ve yaklaşım, yapay zeka ilerlerken geleceğinin, çoklu ve çeşitli modellerin etkili bir şekilde birlikte çalışmasını sağlayan sofistike yöntemler geliştirmekte olduğunu gösterir. Bu yapıyı, aslında bir araştırma ekibinin hiyerarşik işbölümüne benzetilebiliriz: her ajan bir “uzman asistan” gibi davranır ve kendi bilgi alanında çözüm üretir, en üstteki ajan ise asistanların bulgularını birleştirip (Tıpkı bir lider yada proje yöneticisi gibi) sonucu ve aksiyonları belirler.
MoA yaklaşımında görev dağılımı genellikle her bir ajana atanan spesifik bir alt-görevi veya alanı üstlenmesi ile bu doğrultuda veri yada bilgi işleyerek gerçekleşir.
Örneğin, bir ajan siber güvenlik açısından kod güvenliğini kontrol ederken diğeri finansal tablo hesaplamalarını yapabilir. Buradaki koordinasyon, sistemin mimarisine gömülü hiyerarşi ile sağlanır: Ajanlar burada ilk aşamada paralel olarak çalışarak farklı bakış açıları veya kısmi çözümler üretirler. Ardından bu ara çıktılar, ya daha üst katmandaki ajanların girdi verisi olarak kabul edilir ya da doğrudan birleştirici ajana iletilir. Birleştirici ajanda tüm çıktıları sentezleyip tutarsızlıkları gidererek tek bir yanıt halinde bütünleştirir. Bu harika koordinasyon akışı, ortak bir çıkarım oluşturup, bu çıkarım etrafında bir araya gelmeye benzer.
Ayrıca bazı MoA yaklaşımlarında, birleştirici ajandan önce bir hakem ajan da konumlandırılabilir. Bu hakem ajan, alt ajanların ürettiği çözümlerin kalitesini değerlendirerek sadece en iyi veya çeşitli olanları birleştiriciye aktarır. Örnek olarak Sparse MoA (SMoA) çalışmalarında, paralel sorguların sayısını ve maliyetini azaltmak için bir jüri modeli bazı yanıtları eler hatta yeniden ürettirtebilir. Ama biliyorsunuzdur ki, yanıt kalitesini güvenilir şekilde derecelendirmek de başlı başına bir zorluk. Ama yapılabilirdir ve iyi tasarlanmış bir MoA koordinasyonu sayesinde çoklu ajanlar, tek bir ajanla elde edilemeyecek kapsamlılıkta ve doğrulukta çözümler üretebilirler. Nitekim bazı akademik araştırmalarda, LLM tabanlı birden çok modelin birbirlerinin çıktılarından faydalandığında daha kaliteli sonuçlar verdiğini görülmüş.
2023–2025 Arasındaki MoA ve Çoklu Ajan Sistemleri Üzerine Güncel Akademik Çalışmalar
Son yıllarda, özellikle 2023–2025 döneminde, LLM tabanlı çoklu ajan sistemlerine artan bir ilgi söz konusudur. Araştırmacılar, birden fazla yapay ajanı ortak bir amaç için çalıştırmanın, karmaşık problemleri çözmede yeni ufuklar açtığını ortaya koyuyorlar. Aşağıdaki tabloda, bu dönemdeki önemli bazı akademik çalışmalar özetlenmiştir:
RMoA: Optimizing Mixture-of-Agents through Diversity Maximization and Residual Compensation
Bu akademik çalışmada; Hiyerarşik katmanlar + paralel ajanlar + birleştirici; LLM tabanlı çoklu ajanlı mimaridir. MAS ile daha yüksek esneklik ve verim sağlatır, paralel işlem ve birleştirme ile güçlü performans verir.
SMoA: Improving Multi-agent Large Language Models with Sparse Mixture-of-Agents
Bu akademik çalışmada; MoA mimarisine seyrekleştirme eklenmiştir. Modelleri denetleyen jüri modeli ile gereksiz yanıtlar elenmiş ve daha az token işlenmiştir. MoA’nın hesaplama maliyeti düşürülmüş, ancak yanıt seçiminin güvenilirliği hala zorluk teşkil etmiştir.
Bu çalışmalarıda inceleyebilirsiniz. Bu çalışmalar arasından özellikle “Multi-Agent Collaboration in Incident Response with Large Language Models Multi-Agent Collaboration in Incident Response with Large Language Models” çalışması bizim için ilgi çekici. Şimdi bu çalışmaya bi detaylı bakalım.
Multi-Agent Collaboration in Incident Response with Large Language Models Multi-Agent Collaboration in Incident Response with Large Language Models
Liu çalışmasında, bir siber olay senaryosu oyunu olan “Backdoors & Breaches” kullanarak LLM ajanlarından oluşan sanal Incident Response ekipleri kurmuştur. Araştırmanın sonuçları, bu LLM ajanlarının karar verme ve koordinasyon süreçlerini hızlandırarak güvenlik ekiplerinin etkili biçimde desteklenebileceğini göstermiştir.
Umarım faydalı bir yazı olmuştur. Bir sonraki bölümde MoA’yı Siber güvenlik alt alanlarını kapsayacak şekilde nasıl oluşturacağımızı, modellerimize buna uygun alan özelinde nasıl eğiteceğimizi ele alacağız.
