KI lernt bald auf dem Smartphone
Der Beitrag von Tiernan Ray auf ZDNet beleuchtet die mögliche Revolution im KI-Training für das Jahr 2024. Bisher erfolgt das Training von KI-Modellen, wie z.B. OpenAI's GPT-4, in großen Rechenzentren. Doch es zeichnet sich ab, dass sich dies ändern könnte, und KI könnte direkt auf persönlichen Geräten lernen, ohne oder mit minimaler Cloud-Verbindung.
Die Herausforderungen bestehen darin, KI nicht nur Vorhersagen auf Mobilgeräten treffen zu lassen, sondern sie auch zu trainieren. Das erfordert mehr Rechenleistung, mehr Speicher und mehr Bandbreite als die reine Vorhersage. Ansätze wie Googles MIT's TinyTL experimentieren mit der Reduzierung von Berechnungen, um die Effizienz zu steigern.
Die Forschung weist darauf hin, dass nur das Ausführen von Vorhersagen auf einem Gerät nicht ausreicht. Die KI-Modelle müssen auch vor Ort trainiert werden, um ihre Frische zu bewahren. Methoden wie "Federated Learning" und "Federated Fine-Tuning" zeigen vielversprechende Ansätze, um das Training effizienter zu gestalten.
Verschiedene Experimente, wie das Anpassen von LLMs für Bilderkennung oder das Trainieren von KI für Cybersecurity auf individuellen Geräten, zeigen die Vielfalt der Anwendungen des On-Device Trainings. Apple ist eine der treibenden Kräfte und hat Forschungsergebnisse veröffentlicht, die darauf hinweisen, dass iOS-Geräte mehr Funktionen für das On-Board-KI-Training erhalten könnten.
Die Forschungsbemühungen deuten darauf hin, dass Wissenschaftler daran arbeiten, das Training von KI-Modellen auf batteriebetriebenen Geräten mit weniger Speicher und Verarbeitungsleistung zu ermöglichen. Ob dieser Durchbruch 2024 erfolgt, bleibt abzuwarten. Dennoch ist bereits jetzt klar, dass das Training von neuronalen Netzen sich aus der Cloud bewegen wird und möglicherweise direkt in die Handfläche der Nutzer gelangt.