Lemony AI: Yerel Yapay Zeka Gücü Cebinizde
Lemony AI: Yerel Yapay Zeka Gücü Cebinizde
Uptime Industries, yapay zeka altyapısını yerelleştirmeye odaklanan yenilikçi bir yaklaşımla, "hepsi bir arada yapay zeka" çözümü Lemony AI'yı tanıttı. Bir sandviç boyutunda olan bu el cihazı, büyük dil modellerini (LLM), yapay zeka ajanlarını ve yapay zeka iş akışlarını tek bir düğümde çalıştırabiliyor.
Lemony AI'nın Temel Özellikleri
- Sadece 65 watt güç tüketimiyle (bir dizüstü bilgisayarı şarj etmeye eşdeğer) çalışır.
- Daha büyük yapay zeka kümeleri oluşturmak için istiflenebilir ve birbirine bağlanabilir.
- Her bir Lemony düğümü, 75 milyar parametreye kadar LLM'leri destekleyebilir.
- Açık kaynak modelleri veya kapalı modellerin uyarlanmış sürümlerini barındırabilir.
- Bir Lemony kümesinde, her cihaz farklı bir model çalıştırabilir.
Neden Yerel Yapay Zeka?
Uptime Industries'in kurucu ortağı ve CEO'su Sascha Buehrle, Lemony AI fikrinin başlangıçta Raspberry Pi mikro bilgisayarlarında dil modellerini çalıştırma denemelerinden çıktığını belirtiyor. Bu deneyler, yerel cihazlarda model çalıştırmanın, bulut tabanlı modelleri kullanmak istemeyen şirketler için yapay zeka benimsenmesinin anahtarı olabileceğini gösterdi. Özellikle veri gizliliğine önem veren kuruluşlar için, verilerin "kutu içinde kalması" büyük bir avantaj sağlıyor. Finans, sağlık ve hukuk gibi ağır düzenlemelere tabi sektörlerden şimdiden yoğun talep görüyor.
Buehrle, "Ekiplere kolayca entegre olabilecek, kurum çapında karar alma süreçleri gerektirmeyen küçük bir şey inşa etmemiz gerekiyordu – temelde iş ekiplerine şirket içi üretken yapay zeka çözümleri getirmek," ifadelerini kullandı. Küçük ve güçlü cihazlardan oluşan kümeler, bir müşterinin ihtiyaçlarına göre sistemin büyümesine yardımcı olabilir.
İş Birlikleri ve Gelecek Planları
Uptime, IBM ve JetBrains ile yaptığı ortaklıklarla müşterilerine IBM'in kapalı modelleri de dahil olmak üzere yapay zeka modellerine daha kolay erişim imkanı sunuyor. Şirket, True Ventures liderliğindeki ve Alumni Ventures, JetBrains ile bazı melek yatırımcıların katılımıyla 2 milyon dolarlık bir başlangıç finansmanı (seed funding) sağladı. Bu fonlar, cihazların daha da geliştirilmesi için kullanılacak.
Gelecek planları arasında, Lemony OS adını verdikleri yazılımlarını Nvidia DGX Spark gibi diğer şirketlerin donanımlarında da çalışır hale getirmek yer alıyor. Ayrıca, mevcut tek kullanıcılı odağı, ekipler tarafından kullanılabilecek çok kullanıcılı bir yapıya genişletmek istiyorlar.
Maliyet
Lemony AI'ın aylık kullanım ücreti 499 dolar olup, beş kullanıcıya kadar erişim imkanı sunmaktadır.
