Gemma 4 E4B + E2B Non censuré (Agressif) — GGUF + K_P Quants (Multimodal : Vision, Vidéo, Audio)

[doc62fr]

Bonjour J'ai trouvé ces modèles : espérons que nous pourrions les intégrés pour le hat +2 hailo 10H

Gemma 4 E4B + E2B Non censuré (Agressif) — GGUF + K_P Quants (Multimodal : Vision, Vidéo, Audio)

https://www.reddit.com/r/LocalLLM/comments/1saxr47/gemma_4_e4b_e2b_uncensored_aggressive_gguf_k_p/?tl=fr

A suivre

[jaylfc]

Merci pour la trouvaille, ils ont l'air super. Une precision sur l'endroit ou ils tournent: ce sont des modeles GGUF, donc ils s'executent sur le chemin CPU (llama.cpp / ollama), pas sur le NPU Hailo 10H. L'accelerateur ne charge que les .hef officiels du zoo Hailo, la meme limite runtime qu'avant. Sur votre Pi 5 ils tourneraient en CPU, ce qui pour le petit E2B (et E4B, dans une certaine mesure) reste jouable, et le support multimodal vision/audio est un bon bonus.

Cote catalogue: oui, on va les ajouter a la section Modeles du Store pour qu'ils soient installables en un tap sur le chemin CPU (on a deja une entree Gemma 4 E2B GGUF). Comme ce sont les variantes non censurees, c'est le choix de l'utilisateur de les installer, elles vivront simplement dans le catalogue de modeles comme les autres. Merci de continuer a partager tes trouvailles Hailo et modeles, elles sont vraiment utiles.