Veri & Yapay Zeka Forum İstanbul

7 Kasım 2024, Çırağan

0 453

Yapay Zeka onlarca yıl önce bilim-kurgu hikayeleri ile hayatımıza girdi, sonra filmler, diziler derken herkes bir şekilde yapay zeka diye birşeyin olduğundan haberdar oldu. Şu an 40-50 yaşlarında olanların çok iyi hatırlayacakları Kara Şimşek dizisindeki konuşan araba KITT ile sürücüsü Michael’ın maceraları sayesinde bir nesil yapay zekaya bir hayli erken aşina olduk 🙂

IBM yıllardır Watson ile yapay zeka çalışmaları yapıyor, Watson’ın sağlık alanında pilot olarak seçilen onkoloji alanında bugün geldiği teşhis ve tedavi yetkinliği inanılmaz bir seviyede. Birkaç yıl önce OpenAI’ın ChatGPT ile yapay zeka birey olarak bizlerin de hayatına pratik bir şekilde girme oldu. Daha önce sadece filmlerde ve kitaplarda bilim-kurgu olarak gördüğümüz yapay zeka ilk defa bu kadar dokunulabilir erişilebilir oldu.

ChatGPT’yi deneyimledikten sonra “fazla zaman kalmadı, kurumsal iş dünyasına da yapay zeka girdi/girecek” derken, 7 Kasım’da Oracle’ın daveti ile katıldığım Data & AI Forum Istanbul etkinliğinde iş dünyasına çoktan girdiğini ve daha şimdiden kendisine ön sıralardan yer bile tuttuğunu gördüm. Etkinlik esnasında aldığım notları burada toparlamaya çalıştım, sürç-i lisans ettiysem şimdiden özürlerimi paylaşıyorum.

Açılışı Oracle’ın EMEA bölgesindeki bulut satışlarından sorumlu Pınar hanım yaptı. Yapay zekanın adaptasyon hızını cep telefonu gibi farklı teknolojilerinki ile kıyasladı

Yapay zekanın yeteneklerinin çok hızlı bir şekilde ilerlediğini, hatta bazı alanlardaki ilerlemenin neredeyse anlık zıplama şeklinde olduğunu ve insan yetkinliğini şimdiden aştığını paylaştı

Pınar hanım yola çıkarken doğru yol arkadaşı seçiminin hedefe varmada en önemli faktörlerden birisi olduğunu ve bu konuda Oracle olarak nasıl iyi bir yol arkadaşı olabileceklerini paylaştı

Etkinliğin hepsine katılmama rağmen son kısımlarda not alamadığım için oralarda neler konuşuldu paylaşamayacağım ama konu başlıklarının Oracle’ın yeni veritabanı Oracle Database 23ai ve yeni veritabanı donanımı Exadata olduğunu söyleyebilirim

Oracle’dan bulut mühendisi olarak çalışan Ali İhsan bey kurumsal dünyada yapay zekanın kullanım senaryolarının neler olabileceğini oldukça keyifli kısa videolarla örneklendirdi. Özellikle bir müşteri ile toplantısına 5dk kalan bir çalışanın ChatGPT tadında bir yapay zeka ile yazışarak, o firma ile en son ne zaman yazışılmış, neler paylaşılmış, alınan tekliflerin özeti neymiş gibi detayları birkaç dk içerisinde öğrenip toplantıya girmesi “demek ki chatbot önyüzü olan bir yapay zekaya şirketin email, ortak dosya paylaşımı,.. gibi kaynaklarını açınca kurumsal kaynakları kullanan bir ChatGPT yaratmak mümkün” olduğunu gösterdi

Yapay zekaya kolay bir başlangıç için Oracle olarak müşterilerine nasıl yardımcı olabileceklerini paylaştı

Oracle bulut altyapısında #OCI hem açık-kaynak hem de ücretli çözümleri kullanmanın mümkün olduğunu, bulut olarak altyapı kaynağı sağlamanın yanı sıra, eğitim ve gelişim için sunulan imkanlardan da söz etti

Ali İhsan bey Türkçe’ye “geri getirme destekli metin üretimi” olarak çevrilebileceğimiz, Retrieval-Augmented Generation #RAG kullanımının Oracle bulut altyapısında kullanılabilirliğinden da söz etti.

simple-rag-workflow.png

RAG nedir? Bir modelin geniş bilgi kaynaklarına erişim sağlayarak daha doğru yanıtlar üretmesine olanak tanıyan bir yapay zeka tekniği olarak tanımlanabilir. RAG, iki ana bileşen içerir:

  1. Bilgi Geri Getirme (Retrieval): Model, soruya uygun bilgi parçalarını bulmak için bir bilgi kaynağını tarar. Bu bilgi kaynağı, büyük bir metin veri tabanı, dökümantasyon ya da güncel internet kaynakları olabilir.
  2. Metin Üretimi (Generation): Geri getirilen bilgileri kullanarak, doğal ve anlamlı bir yanıt üretir.

Özellikle bilgiye dayalı soruların yanıtlanmasında, metinleri anlamlandırmada ve daha isabetli yanıtlar sunmada kullanılır. Özellikle büyük dil modellerinde, doğru bilgi kaynaklarına ulaşarak güncel veya detaylı bilgi vermede etkili sonuçlar sağlar.

Oracle’da otonom veritabanları konusunda mimar olam Engin bey Oracle veritabanında yapay zeka vektör sorgusu konusunda paylaşımlarda bulundu

AI Vector Search, hem yapılandırılmış hem de yapılandırılmamış verileri anlamına, semantiğine ve değerlerine göre aramayı mümkün kılarak karmaşık yapay zeka arama uygulamalarına olanak tanıyan bir teknoloji. Yapay zeka vektör arama ayrıca büyük dil modelleri #LLM ve geri getirme destekli metin üretimi #RAG kullanarak, kurumsal kullanım senaryoları için doğru ve bağlamsal olarak alakalı sonuçlar sunmasına da imkan vermesi ile öne çıkıyor.

Yapay Zeka uzmanlığı olmaksızın yapay zekanın nimetlerinden nasıl faydalanabilineceğinden söz etti Engin bey, bunun için HeatWave’i önerdi.

Geleneksel analitik uygulamalarına yapay zeka eklemenin, Oracle Analytics Cloud ile nasıl yapılabileceğini paylaştı

Oracle’da bulut işleme lideri olan Ainura Djumagulav yapay zeka hizmetlerine sahip olmak için gerekli altyapı gereksinimlerinin ne kadar yüksek olabileceği ve GPU’nun yapay zekadaki öneminden söz etti. Yüksek yatırım ve işletim maliyetleri için buluttan faydalanılabileceğinin altını çizdi

Oracle’da bulut satışlarından sorumlu Erdem bey, Garanti BBVA Technology’nin yaptığı yapay zeka graph ve vector veritabanı çalışmalarını paylaşmaları için Mert Bilgin, Muhammed Ömer Taylan ve Barış Taşkend’i sahneye davet etti. Baştan sona büyük bir ilgiyle takip ettiğim etkinlikte beni en çok heyecanlandıran kısım burası oldu!

Barış Taşkend, yapay zeka çalışmalarında kullandıkları graph ve vector veritabanı çalışmalarından kısaca söz edip, detaylar için sahneyi ekip arkadaşlarına bıraktı

Ömer Taylan, graph veritabanı ile ilişkisel veritabanını kıyaslayarak konuşmasına başladı.

İlişkisel veritabanları yapılandırılmış veriye ve veri bütünlüğüne odaklanırken, graph veritabanları ilişkileri keşfetme ve analiz etme yeteneği sağlar.

İlişkisel Veritabanı Graph Veritabanı
Veriyi tablo formatında saklar ve ilişkileri anahtarlarla tanımlar Veriyi düğüm (node) ve kenar (edge) ilişkileriyle saklar
SQL sorguları ile kullanılır, veri bütünlüğüne ve güçlü işlem güvenliğine odaklanır Veri arasındaki bağlantıları ve ilişkileri doğal olarak modellemek için tasarlanmıştır
Finansal uygulamalar ve ERP sistemleri için uygundur Özellikle sosyal ağ, öneri sistemleri ve bağlantı analizleri gibi, karmaşık ilişki yapılarına sahip veriler için uygundur

Graph veritabanı altyapı ihtiyaçları için Oracle bulut altyapısından nasıl yararlandıklarını hayata geçirdikleri bir proje üzerinden örneklendirerek paylaştı

Mert Bilgin ise vektör ve ilişkilsel veritabanları kıyaslayarak başladı konuşmasına.

İlişkisel veritabanları veri tutarlılığına, vektör veritabanları ise benzerlik tabanlı sorgulara öncelik verir

İlişkisel Veritabanı Vektör Veritabanı
Veriyi tablo ve satırlar halinde saklar Veriyi çok boyutlu vektörler olarak saklar
Yapılandırılmış verilere dayalı sorgulamalar için uygundur Metin ve görüntü gibi yapılandırılmamış veri ile benzerlik aramaya dayalı sorgulamalarda kullanılır
Özellikle finans ve kurumsal uygulamalarda yaygındır.özellikle finans ve kurumsal uygulamalarda yaygındır Genelde yapay zeka ve makine öğrenimi uygulamalarında, hızlı benzerlik araması yapabilmek için kullanılır

Garanti BBVA ekibinin sunumunun ardından sunumu yapan arkadaşların yanına gidip tanıştım, hangi ekipten olduklarını sordum, “AI Factory” isimli bir ekip altında olduklarını söylediler..

..ekibin büyüklüğünü merak ettiğim için kaç kişi olduklarını sordum, yaklaşık 70 kişilik bir ekipmiş AI Factory, “biz sadece Garanti BBVA Technology ekibi olarak 70 kişiyiz, banka tarafında da çalışanlar var” diye de eklediler.

 

Email adresiniz yayınlanmayacaktır.