Asus, Dünya’nın İlk USB AI Hızlandırıcısını Tanıttı

Dünyanın ilk USB temelli AI hızlandırıcısını tanıttı

UGen300, Hailo-10H NPU içermektedir. Asus’un verdiği bilgilere göre bu çip, INT4 hassasiyetinde 40 TOPS işlem gücü sağlamaktadır. Tipik güç tüketimi ise sadece 2,5 watt’tır. Bu durum, cihazı sürekli çalışan ve düşük enerji tüketimi gerektiren senaryolar için uygun kılar. Cihaz, 8GB LPDDR4 belleğe sahiptir; bu kapasite büyük dil modelleri için sınırlı olsa da, görüntü tanıma ve çıkarım odaklı iş yükleri için yeterli olduğuna inanılmaktadır.

Asus, UGen300’ün x86 ve ARM tabanlı sistemlerle uyumlu olduğunu ifade ediyor. Windows, Linux ve Android desteği sunan bu ürün, TensorFlow, PyTorch ve ONNX gibi popüler yapay zekâ çerçeveleriyle çalışabilmektedir. Ayrıca geliştiricilere 100’den fazla önceden eğitilmiş modelin erişimi sağlandığı belirtiliyor. Bu durum, cihazın daha ziyade “tak-çalıştır” tarzı edge AI uygulamalarını hedeflediğini göstermektedir.

Genel değerlendirme yapıldığında, UGen300’ün modern APU’larda bulunan NPU’ların yerini alma hedefi olmadığını, mevcut sistemlerin yapay zekâ kapasitesini düşük maliyet ve kolay kurulum ile artırmayı amaçladığını söyleyebiliriz. Asus henüz fiyat ve çıkış tarihi hakkında bilgi vermemiştir, ancak ürün, özellikle kurumsal edge AI ve hafif geliştirici senaryolarında alternatif bir çözüm olabilir.