Wieviel Hardware-Power braucht man, um das LLM ("Large Language-Model") von ChatGTP laufen zu lassen? Naja, mit dem neuen "LLaMA 2.0" kann man es mit einigen Einschränkungen sogar lokal auf handelsüblichen PCs laufen lassen (handelsüblich ist relativ; 32 GB Ram darf er dann doch schon gerne haben).
Jetzt hat aber sogar ein Tüftler "GPT64" entwickelt. Mittels eines auf Datasette gespeicherten, sehr simplen Treiber steuert er eine auf 1200 Baud gedrosselte WLAN-Karte an, über die Fragen an die OpenAI-API gesendet und Antworten empfangen werden können.
Die Länge der Antworten ist allerdings begrenzt, da der Speicherausbau des C64 nun mal bei den bekannten 64 kb liegt.
