Entwickler beweist, dass LLMs überall laufen – selbst auf einem 10-Dollar-Mikrocontroller

Fast 10 tok/s und es ist größtenteils kohärent – was gibt es da nicht zu mögen?

#ki #llm #hardware