Post #1959354

@alineblankertz @malteengeler @netzpolitik_feed @RedScout24 Es kommt immer darauf an, wovon wir reden, wenn wir "KI" sagen. Es gibt zahlreiche neuronale Netz-Modelle, die kompakt genug sind, um auf Consumer-Hardware zu laufen. Es gibt auch die Möglichkeit, sehr kleine neuronale Netze selbst auf der eigene Maschine zu trainieren, wenn man genug Plattenplatz für die Trainingsdaten frei hat; größere Netze können kollaborativ trainiert werden, d.h. die Rechner von vielen Freiwiliigen überall auf der Welt teilen sich die Arbeit, indem sie, wenn sie laufen, aber gerade nicht ausgelastet sind, ungenutzte CPU- und/oder GPU-Zyklen für KI-Trainingsaufgaben nutzen. Hinzu kommen kompakte Modelle, die von KI-Firmen trainiert worden sind, aber unter freier Linzenz gratis runterzuladen sind. Solche Modelle können auch auf normalen PCs laufen. Solche Modelle gehen auch nicht mehr weg, selbst wenn alle KI-Firmen pleitegehen, und zahlreiche Entwickler und Hobbyisten optimieren solche Modelle oder trainieren LoRAs dafür; ein LoRA ist eine Art Patch für ein neuronales Netz, mit dem diesem zusätzliche Fähigkeiten oder Informationen hinzugefügt werden können. Es werden auch "destillierte" Versionen von KIs von allerlei Leuten gebaut, die noch einmal wesentlich kleiner sind, dabei zwar etwas an Qualität einbüßen, dafür aber auf noch kleineren Maschinen lauffähig sind, teilweise sogar auf älteren Smartphones oder auf Einplatinencomputern wie der Raspberry-Pi-Serie. Es ist gut, wenn die KI-Blase platzt und haufenweise KI-Firmen in die Pleite rutschen, aber solange es leistungsfähige Computer in Privatbesitz gibt, wird der gegenwärtige Stand des Maschinenlernens bleiben. KI geht nicht mehr weg, auch wenn sie vermutlich wirtschaftlich bald eine weit kleinere Rolle spielen wird, als vom gegenwärtigen Hype vorausgesagt/erhofft. KI ist ja nicht komplett nutzlos, nur sind die gegenwärtigen GANs, Diffusionsmodelle, Transformer/LLMs, Weltmodelle usw. weit weniger nützlich, als das Marketing behauptet. Wenn die Blase platzt, können wir in aller Ruhe gucken, was wir mit den ML-Modellen anfangen können. KI ist zuallererst ein lose verbundenes Bündel von Forschungsgebieten aus der Informatik, das sich damit beschäftigt, Aufgaben zu lösen, für welche Menschen ihre Intelligenz einsetzen. Aus Sicht der KI-Forschung sind LLMs höchstinteressante Experimente, und auch wenn irgendwann (hoffentlich bald) keine neuen Riesenmodelle mehr trainiert werden, kann man immer noch etliches aus den bereits existierenden lernen. Nach dem Platzen der KI-Blase ist mit einem neuen KI-Winter zu rechnen, wo die KI-Forschung unter Unterfinanzierung leiden dürfte, aber das, was es jetzt bereits an Modellen gibt, geht deshalb ja nicht mehr weg, und begrenzte Mittel verhindern auch die Entstehung neuer gigantischer Moloch-Modelle, die ohne riesige Rechenzentren gar nichts können.