IBM hat jedoch einen Durchbruch erzielt und einen KI-Chip entwickelt, der bei der Spracherkennung mehr als ein Dutzend Mal energieeffizienter ist als herkömmliche Mikrochips. Dieser Chip könnte KI-Systemen wie ChatGPT und anderen großen Sprachmodellen sowie generativer KI zugutekommen, die zur Erstellung von Videos und Bildern verwendet wird.

Der Energieverbrauch von KI-Systemen

Der Einsatz von KI hat in den letzten zehn Jahren zu erheblichen Verbesserungen in der automatischen Transkription geführt. Die Genauigkeit hat sich dank KI deutlich verbessert. Allerdings wird die Hardware, die zum Training und Betrieb von KI-Systemen verwendet wird, immer teurer und energiehungriger. OpenAI gab beispielsweise 4,6 Millionen US-Dollar aus, um sein modernes KI-Modell GPT-3 zu trainieren. Dabei wurden zwei Wochen lang 9.200 GPUs betrieben. Ein Hauptproblem ist der Energie- und Zeitverlust beim Transfer großer Datenmengen zwischen Prozessoren und Speicher. Die dabei verbrauchte Energie kann zwischen drei und 10.000 Mal so hoch sein wie die tatsächliche Rechenleistung.

Die Lösung: Analog AI Mikrochips

Um dieses Problem zu lösen, hat IBM einen neuen Ansatz verfolgt. Sie haben einen KI-Chip entwickelt, der auf "analog AI" basiert. Analog AI Chips führen Berechnungen direkt im Speicher durch und versuchen, die Art und Weise nachzuahmen, wie biologische Neuronen Daten berechnen und speichern. Frühere Simulationen legen nahe, dass dieser Ansatz von 40 bis 140 Mal energieeffizienter sein könnte als herkömmliche GPUs für KI-Anwendungen.

Phasenwechselspeicher als Schlüsselkomponente

In ihrer neuen Studie haben IBM-Forscher mit Phasenwechselspeicher experimentiert. Dieses Gerät verwendet ein Material, das bei elektrischen Impulsen zwischen amorphen und kristallinen Phasen wechseln kann. Phasenwechselspeicher kann die Ergebnisse von Multiply-Accumulate (MAC)-Operationen mit nur wenigen Widerständen oder Kondensatoren im Speicher codieren, im Gegensatz zu herkömmlichen Ansätzen, die hunderte oder tausende Transistoren verwenden.

Die Ergebnisse

Die Forscher haben einen 14-Nanometer-Mikrochip mit 35 Millionen Phasenwechselspeicherzellen entwickelt. Dieser Chip war in der Lage, bis zu 12,4 Billionen Operationen pro Sekunde pro Watt durchzuführen. Die Wissenschaftler haben zwei Spracherkennungs-AIs verwendet, um die Flexibilität des Chips zu untersuchen. Der Chip arbeitete genauso genau wie Neuronale Netze auf herkömmlicher Hardware, erledigte die Aufgabe jedoch siebenmal schneller für Google Speech Commands und 14-mal energieeffizienter für Librispeech.

Potenzial und Herausforderungen

Der neue Mikrochip hat das Potenzial, den Stromverbrauch und die Kosten von großen Sprachmodellen und generativer KI erheblich zu reduzieren. Allerdings gibt es noch einige Herausforderungen zu bewältigen. Der Chip enthält nicht alle Komponenten, die zur Verarbeitung der ihm übergebenen Daten erforderlich sind. Seine Leistung wird durch die Kommunikation zu anderen Komponenten außerhalb des Chips begrenzt. Es gibt noch fünf weitere Schritte auf dem Weg zu kommerziell nutzbarer analoger KI, darunter die Entwicklung neuer Schaltungen, eine hybride analog-digitale Architektur, maßgeschneiderte Compiler, maßgeschneiderte Algorithmen und optimierte Anwendungen.

Abschließende Gedanken

Analoge KI ist noch in den Anfängen und wird eine lange Reise sein. Der von IBM entwickelte KI-Chip ist jedoch ein vielversprechender Schritt in die richtige Richtung. Mit seiner energieeffizienten Leistung könnte er die Zukunft von KI-Systemen und generativer KI revolutionieren. Es bleibt abzuwarten, wie sich diese Technologie weiterentwickeln wird und welche Auswirkungen sie auf die Welt der künstlichen Intelligenz haben wird.

Quelle: IEEE Spectrum