AI Tech Yayınları

Büyük dil modellerinin (large language models - LLMs) otonom karar alabilen ajanik yapay zeka (agentic artificial) sistemlere evrilmesi, yapay zeka ekosisteminde yapısal bir dönüşüm yaratmıştır. Ajanların dış dünyayla bu dinamik etkileşimi, sistemlere eşsiz bir esneklik sunarken, geleneksel güvenlik yaklaşımlarının kapsayamadığı, ajana özgü (agent-specific) benzersiz tehdit vektörlerini de beraberinde getirmiştir. Bu makale, LLM tabanlı otonom ajanların karşılaştığı güvenlik risklerini ve savunma stratejilerini veri, model ve kullanım katmanları ekseninde bütüncül bir yaklaşımla incelemektedir. Çalışma kapsamında, dolaylı istem enjeksiyonu, araç gaspı (tool hijacking) ve çoklu ajan ortamlarındaki bulaşıcı saldırılar gibi kritik zafiyetler analiz edilmiştir. Bu tehditlere karşı Varsayılan Olarak Güvenli (Secure by Design) mimarisi, yetkilendirme mekanizmaları, yapısal sorgu doğrulama ve İnsan Denetimli Döngü (Human-In-The-Loop - HITL) gibi azaltma stratejileri sunulmaktadır. Ayrıca çalışmada, otonom sistemlerin yol açtığı Siber Tehdit Enflasyonu kavramı incelenerek, ajanların gelecekte siber güvenlik mimarilerinde proaktif siber savunmacılar olarak konumlandırılması gerektiği vurgulanmaktadır.

Yapay zekâ, son yıllarda yalnızca teknolojik yeniliklerin bir çıktısı olmaktan çıkarak; ekonomik rekabet gücü, kamu yönetiminin etkinliği ve ulusal güvenlik politikaları üzerinde doğrudan etkiye sahip stratejik bir alan hâline gelmiştir. Bu bağlamda yapay zekâ teknolojilerinin yaygınlaşması, salt teknik kapasitenin artırılmasıyla sınırlı bir süreç olarak değerlendirilemez. Aksine, söz konusu teknolojilerin güvenlik, etik, veri yönetişimi ve nitelikli insan kaynağı politikalarıyla bütüncül bir çerçevede ele alınmaması durumunda, uzun vadede yapısal ve yönetsel risklerin ortaya çıkma potansiyeli bulunmaktadır. Bu stratejik perspektif, yapay zekânın yalnızca ekonomik değil, aynı zamanda kamu güvenliği ve toplum düzeni açısından da kritik öneme sahip olduğunu göstermektedir.

Yapay zekâ (YZ) teknolojilerinin gelişimiyle birlikte, üretken yapay zekâ (Generative AI) modelleri, doğal dil işleme (Natural Language Processing - NLP), görüntü üretimi, kod yazımı ve ses sentezi gibi birçok alanda çığır açan yenilikler sunmaktadır.Özellikle büyük dil modelleri (Large Language Models - LLM) metin üretimi, bilgi erişimi ve karar destek sistemlerinde yaygın olarak kullanılmaktadır. Bu araştırmada, üretken yapay zekâ modellerinin temel kavramları, karşılaştırma kriterleri, ücretlendirme yapıları ve API/Chat kullanım modelleri ele alınmıştır.

Son yıllarda yapay zeka (YZ) alanında yaşanan gelişmeler, geleneksel dar görevli sistemlerden daha bağımsız ve esnek çalışan sistemlerin önemini ortaya koymuştur. Bu doğrultuda, Agentic AI (artificial intelligence) kavramı, insan müdahalesine ihtiyaç duymadan kendi hedeflerini oluşturabilen ve bu hedeflere ulaşmak için çevresel değişkenlere adapte olabilen otonom YZ sistemlerini tanımlamaktadır. Agentic AI sistemleri, değişken ve karmaşık ortamlarda, esnek karar mekanizmaları ile görevlerini sürdürme yetenekleri sayesinde, sağlık, finans ve afet yönetimi gibi alanlarda önemli bir potansiyel sunmaktadır. Bu çalışmada, Agentic AI’nin yalnızca teknik bir inovasyon olmadığı, aynı zamanda toplumla, etikle ve yönetişimle entegre edilmesi gereken çok boyutlu bir dönüşüm süreci olduğu ortaya konulmuştur. Bu sistemlerin başarılı olabilmesi için, mühendislik yetkinliklerinin yanı sıra etik reflekslerin, kullanıcı beklentilerinin, şeffaflık standartlarının ve hukuki çerçevelerin eş zamanlı geliştirilmesi gerekmektedir.

Sağlık sektörü hem bireylerin yaşam kalitesini doğrudanetkileyen hem de sürekli artan veri miktarı ve karmaşıklığınedeniyle yeni çözümlere ihtiyaç duymaktadır. Bu nedenle yapayzekâ (YZ) teknolojileri yalnızca bir yenilik değil, aynı zamandasağlık hizmetlerinin yeniden tanımlanmasında kilit bir rolüstlenmektedir. YZ, devasa sağlık verilerini işleyebilme, örüntütanıma yetenekleri ve öğrenme kapasitesi sayesinde;hastalıkların erken teşhisi, tedavi planlarının kişiselleştirilmesi,klinik karar destek sistemlerinin güçlendirilmesi ve idarisüreçlerin otomasyonu gibi birçok alanda çözüm sunmaktadır.YZ özellikle derin öğrenme mimarileri bu karmaşıklığı yöneterekyüksek doğrulukta öngörüler yapabilmektedir. Bu araştırmada, yapay zekâ modellerinin sağlık alanında kullanımı ve gelecek perspektifi kapsamlı bir şekilde ele alınmıştır.

21.yüzyıl, yapay zekâ tarihindeki en önemli dönüm noktalarından birisine şahitlik etmektedir. Bu teknolojik dönüşümün en önemli bileşenlerinin başında büyük dil modelleri (large language models–LLMs) gelmektedir. Bu modeller, doğal dil işleme (natura language processing-NLP) tekniklerini yalnızca bilgi çıkarımı amacıyla kullanmanın ötesinde; metin üretimi, muhakeme, çeviri, kodlama, çok dilli iletişim ve etkileşimli akıl yürütme gibi çok sayıda karmaşık görevi yerine getirebilir hale getirmişlerdir. Generative pretrained transformers (GPT) serisi (OpenAI), bidirectional encoder representations from transformers (BERT) ve PaLM (Google), Claude (Anthropic), Gemini (DeepMind), LLaMA (Meta), Mistral, Gemma, Qwen ve DeepSeek gibi modeller yalnızca teknik performanslarıyla değil, aynı zamanda akademik, toplumsal ve siyasal gündeme etkileriyle de tarihteki yerlerini almıştır. Artık LLM’ler yalnızca yazılım mühendislerinin veya veri bilimcilerin değil; hukukçuların, öğretmenlerin, doktorların ve kamu yöneticilerinin de gündeminde giderek artan bir şekilde yer almaktadır. Bu araştırmada, yukarıda özetlenen dönüşüm bağlamında, Meta tarafından geliştirilen large language model Meta AI (LLaMA) serisinin (3.1, 3.2, 3.3, 4) teknik özellikleri ve kullanım potansiyeli, açık kaynak dil modelleriyle kapsamlı bir şekilde karşılaştırılmıştır.

Yapay zekâ (YZ) sistemlerinin karmaşıklığı arttıkça bu sistemlerin karar alma süreçlerini şeffaf ve anlaşılır hâle getirme ihtiyacı da artmıştır. Derin öğrenme gibi güçlü ancak "kara kutu" niteliğindeki modellerin kullanımı, özellikle zaman serisi verileri gibi karmaşık yapılarda yorumlanması zor kararlarla sonuçlanmaktadır. Bu nedenle kararların neden alındığını açıklamak ve kullanıcı güvenini sağlamak amacıyla açıklanabilir yapay zekâ (explainable artificial intelligence-XAI) yöntemlerine olan ilgi giderek artmaktadır. Açıklanabilirlik, bir yapay zekâ modelinin aldığı kararların mantıksal temellerinin anlaşılabilir olmasını sağlarken; şeffaflık, modelin iç işleyişine dair bilgi sunabilmeyi ifade eder. Hesap verebilirlik ise, bu kararların sonuçlarından sorumlu tutulabilecek mekanizmaların oluşturulmasını gerektirir. Bu üç unsur bir araya geldiğinde, yalnızca teknik başarı değil aynı zamanda etik sorumluluk da sağlanmış olur. XAI yöntemleri görselleştirme, özellik önemi (feature importance) ve etki analizleri gibi tekniklerle modellerin karar mantığını ortaya koyar. Bu açıklamalar kullanıcıya güven vermek, modelin hatalarını tespit etmek ve karar süreçlerini doğrulamak açısından büyük önem taşımaktadır. Ayrıca bazı yöntemler, zaman serisi gibi geleneksel görüntü ve metin dışı verilerde de uygulanabilir hâle getirilmiştir. Bu bağlamda LIME, SHAP ve Saliency Maps gibi açıklayıcı tekniklerin farklı veri türlerinde kullanımı ve etkililiği çeşitli çalışmalarda incelenmiştir.

Son yıllarda yapay zekâ, gündelik yaşamdan endüstriyel üretime, eğitimden sağlık hizmetlerine, kamu yönetiminden savunma teknolojilerine kadar uzanan geniş bir yelpazede önemli bir etki yaratmıştır. Metin, görsel, ses ve yapılandırılmamış verilerle etkileşim kurabilen sistemler arama, özetleme, öneri üretme, karar destek ve otomasyon gibi işlevleri giderek daha güvenilir ve erişilebilir hâle getirmektedir. Bu dönüşüm yalnızca yeni araçların ortaya çıkmasıyla sınırlı değildir; kurumların bilgiye erişim, bilgiyi doğrulama ve bilgiyi iş süreçlerine entegre etme biçimleri de kökten değişmektedir. Özellikle teknik alanlarda, doğruluğu kanıtlanmış kaynağa dayalı yanıt üretimi, yalnızca “yararlı” değil aynı zamanda “gereklilik” hâline gelmiştir.. Bu gereksinime yanıt veren yaklaşımlardan biri, üretken sistemleri kurumsal ya da alan-özgü bilgi kaynaklarıyla ilişkilendirerek üretilen metni belge temelli hâle getiren Retrieval-Augmented Generation (RAG) çerçevesidir. RAG, yüksek seviyede modeli tanıtmak yerine kullanıcının sorgusuyla semantik olarak ilişkili belge parçalarını geri çağırır ve yanıtın bu parçalar üzerine inşa edilmesini sağlar. Böylece, akıcı bir metin üretimi ile izlenebilirlik ve referans dayanak arasında pratik bir köprü kurularak halüsinasyon riski azaltılır ve alan-özgü doğruluk artar. Bu çalışmanın odağı, RAG ile desteklenen farklı dil modellerinin, aynı alan dokümanları ve aynı deney koşulları altında karşılaştırmalı olarak analiz edilmesidir. Bu amaç doğrultusunda STM32F103C8 teknik dokümanları üzerinde kurulan tek ve tutarlı bir RAG hattı altında farklı dil modellerinin ürettiği yanıtlar incelenmiştir. Değerlendirme odağını “akıcı metin” den çok kaynağa dayalı doğruluk, teknik özgüllük ve tutarlılık eksenleri oluşturmaktadır. Karşılaştırma aynı belge havuzu, aynı bağlamlandırma yaklaşımı ve standartlaştırılmış bir soru setiyle yürütülerek, modellerin yetkinlikleri için adil ve yeniden üretilebilir bir çerçeve sunmak hedeflenmiştir. Bu çalışmanın yöntem bölümünde veri kümesi ve deney düzeni detaylı sunulacak, bulgular kısmında sorubazlı ve model-bazlı gözlemler özetlenecek, tartışma bölümünde pratik çıkarımlar ve sınırlılıklar ele alınacaktır. Sonuç olarak bu çalışma, mühendislikte sık karşılaşılan “doğru bilgiyi hızlı bul ve kaynağa dayalı, anlaşılır bir yanıt üret” gereksinimine yönelik, alan-özgü ve uygulamaya dönük bir değerlendirme yaklaşımı ortaya koymaktadır.