Un desarrollador desbloquea el entrenamiento de IA local en MacBooks con M4

Entrenar IA local en MacBooks ya no es solo cosa de inferencias. Un desarrollador ha encontrado un método para saltarse las restricciones del Neural Engine del M4 y usarlo para entrenamiento completo de modelos, algo que Apple no había habilitado hasta ahora. La cifra que da contexto es clara: hasta 15,8 TFLOPS de computación para cargas de entrenamiento, incluyendo backpropagation en modelos transformer. El hallazgo llega desde la cuenta @0x0SojalSec en X y se apoya en un proyecto que ya está publicado en GitHub. https://twitter.com/0x0SojalSec/status/2066629930889474333 El M4 pasa de ejecutar modelos a entrenarlos Hasta ahora, el Neural Engine del M4 estaba pensado sobre todo para inferencia: ejecutar modelos ya entrenados con eficiencia. Esta vía cambia el uso previsto del chip.…

Leer el artículo completo en HardwarePremium »