Ma Meta sa come mitigare i problemi.
Le GPU Nvidia H100 difettose e la memoria HBM3 hanno causato la metà dei guasti durante l'addestramento di LLama 3: un guasto ogni tre ore per il cluster di addestramento da 16.384 GPU di Meta
Ma Meta sa come mitigare i problemi.