Ege Üniversitesi Rektörü Prof. Dr. Musa Alcı, yapay zekâ ve otonom sistemler gibi geleceğin teknolojilerine yön veren projeleri TÜBİTAK 1002 – A  Hızlı Destekleme Programı kapsamında kabul edilen Prof. Dr. Geylani Kardaş’ı ve ekibini tebrik ederek başarılar diledi.

“Yazılım mühendisliğinde LLM ve MAS entegrasyonu”

Yapay zekâ ve otonom sistemlerin; veri analizi, sağlık, finans ve robotik gibi pek çok sektörde devrim yarattığını belirten Prof. Dr. Geylani Kardaş, “Günümüz dünyasında akıllı şehirler, sürücüsüz araçlar, akıllı ev sistemleri ve endüstriyel otomasyon gibi alanlarda otonom sistemlere olan ihtiyaç hızla artıyor. Bu sistemlerin başarısı, ‘etmen’ dediğimiz yapı taşlarının etkinliğine bağlıdır. Ancak mevcut Çok-Etmenli Sistemlerin (MAS) tasarımında, Büyük Dil Modellerinin (LLM) insan dilini anlama ve üretme yeteneklerinden yeterince faydalanılamıyor. Biz bu eksikliği gidermek amacıyla, LLM ile güçlendirilmiş MAS mühendisliği için ‘rol’ kavramını sistematik bir yaklaşımla ele alacağız. Projemiz kapsamında, LLM işlevselliğini destekleyecek etmen rol modelleri için yeni bir yazılım mimarisi tanımlayacak ve bu mimariyi işletecek bir yazılım aracı geliştireceğiz. Proje sonunda ortaya çıkacak olan yazılım mimarisi ve aracı sayesinde, yapay zekâ destekli sistemlerin karar alma mekanizmaları daha öngörülebilir hale getirilecek. Bu gelişme, özellikle sürücüsüz araçlardan akıllı ev sistemlerine kadar geniş bir yelpazede güvenli ve verimli bir teknolojik altyapı oluşturulmasına katkı sunacak. Bu sayede, insan kullanıcıları adına çeşitli eylemleri otonom yürütecek LLM destekli yazılım etmenlerinin karmaşık çok-etmenli ortamlarda daha tutarlı, etkili ve öngörülebilir bir şekilde çalışması sağlanacak” dedi

Ege Üniversitesinden yapay zekâ ve otonom sistemlerde çığır açacak TÜBİTAK projesi yazısı ilk önce En Gazete üzerinde ortaya çıktı.

LLM’lerin ortaya çıkışı, şirketlerin Yapay Zeka (AI) sistemlerini geliştirme ve bunlarla etkileşim kurma biçiminde devrim yaratırken, aynı zamanda yeni ve karmaşık güvenlik sorunları da ortaya çıkardı.  Kaspersky’nin yaptığı bir araştırma, 2024 yılında şirketlerin yarısından fazlasının altyapılarında AI ve Nesnelerin İnterneti (IoT) teknolojilerini kullanmaya başladığını ortaya koydu. Bu teknolojiler kurumsal sistemlere ve süreçlere giderek daha fazla entegre oldukça, bunların nasıl hedef alınabileceğini, siber saldırılar için hangi güvenlik açıklarının kullanılabileceğini ve bunlara karşı nasıl savunma yapılabileceğini anlamak artık isteğe bağlı bir konu değil, siber güvenlik uzmanları için hayati bir beceri haline geldi.

Bu kritik ihtiyacı karşılamak için Kaspersky, ünlü Siber Güvenlik Eğitimi portföyünü LLM’lerin güvenliğine adanmış yeni bir çevrimiçi kursla genişletti. Yeni gelişmekte olan bu alanda sağlam bir temel sağlamak için tasarlanan kurs, profesyonellere güvenlik açıklarını değerlendirme, etkili savunma önlemleri uygulama ve dayanıklı AI sistemleri tasarlama konusunda uzmanlık kazandırıyor. Katılımcılar, gerçek hayattan örnekler ve pratik ödevlerle uğraşarak, sağlam güvenlik önlemleri uygulama ve LLM tabanlı uygulamaların dayanıklılığını artırma becerilerini geliştirebiliyor.

Kurs, yaklaşık yirmi yıldır siber güvenlik ve güvenli yapay zeka alanlarında yapay zeka çalışmalarına adanmış uzmanlardan oluşan Kaspersky Yapay Zeka Teknoloji Araştırma Merkezi’nin kapsamlı uzmanlığından yararlanıyor. Bu uzmanlar, çok çeşitli tehditlerin tespit ve azaltılması konusunda önemli ilerlemeler kaydetti. Kaspersky Araştırma Geliştirme Grubu Müdürü Vladislav Tushkanov tarafından yönetilen program, ilgi çekici video dersler, pratik laboratuvar çalışmaları ve etkileşimli alıştırmalar aracılığıyla katılımcılara ilgi çekici bir öğrenme deneyimi sunuyor. Kursta:

• Jailbreak, prompt injection ve token smuggling gibi istismar tekniklerini keşfederek bunlara karşı nasıl savunma yapılacağı öğretiliyor.
• Model, prompt, sistem ve hizmet gibi çeşitli düzeylerde pratik savunma stratejileri geliştiriliyor.
• LLM güvenliğini değerlendirmek ve geliştirmek için yapılandırılmış çerçeveler uygulanıyor.

Bu eğitim yapay zeka siber güvenliği alanında kariyerine yeni başlayanlar, LLM’leri geliştiren veya entegre eden mühendisler ve yapay zeka altyapısı ile yakından çalışan uzmanlar için büyük faydalar sağlıyor.

Vladislav Tushkanov, şunları söylüyor: “Büyük dil modellerinin yükselişi, kuruluşların yapay zeka oluşturma ve kullanma yaklaşımında devrim yaratarak yeni ufuklar açtı. Ancak bu teknolojik sıçrama, acil olarak ele alınması gereken karmaşık güvenlik sorunlarını da beraberinde getiriyor. Siber güvenlik uzmanları için bu güvenlik açıklarını tespit etme, bunlardan yararlanma ve bunlara karşı koruma sanatını ustaca kullanmak hayati bir beceri haline geldi. Bu nedenle profesyonellere LLM tabanlı uygulamaları korumak ve gelişen tehdit ortamının bir adım önünde olmak için gerekli olan bilgileri ve pratik araçları sağlamak amacıyla bu özel kursu geliştirdik.”

Kaspersky, yeni eğitim programı “Büyük Dil Modelleri Güvenliği”ni tanıttı yazısı ilk önce En Gazete üzerinde ortaya çıktı.