TechCrunch berichtet über neues Feature: Lokale Verwendung großer Sprachmodelle in Opera One
Die Entwickler von Opera One haben den Benutzern die Möglichkeit gegeben, große Sprachmodelle (LLM) direkt auf ihren Computern herunterzuladen und lokal zu verwenden. Mit mehr als 150 Sprachmodellen von über 50 Familien zur Auswahl, darunter LLaMA von Meta Platforms, Gemma von Google und Vicuna, bietet Opera One eine breite Palette an Optionen. Dies wurde durch das Opera AI Feature Drops-Programm ermöglicht, das allen Benutzern den frühen Zugriff auf KI-Funktionen gewährt.
Das Open-Source-Framework Ollama wird zur Arbeit mit LLM auf lokalen Computern verwendet und ist ein integraler Bestandteil von Opera One. Jedes Modell hat eine Größe von über 2 Gigabyte, was eine praktische lokale Nutzung ermöglicht. Opera war das erste Unternehmen, das Drittanbietern den Zugriff auf eine große Anzahl lokaler LLM direkt im Browser ermöglichte, was einen bedeutenden Fortschritt in der KI-Technologie darstellt.