URGENCE : Combler le manque de données pour le pré entraînement des modèles d'IA par des données OpenSource, y compris la création de jeux de données supervisés
Machine Leanring Appliqué à venir :
Semi-Automatisation de l’ingénierie Propriété intellectuelle : Brevets
(aide au ingénieur PI => Baisse du coût de la PI => Augmentation du nombre de dépôt de demande de brevets)
Automatisation de la R&D (et protection de cette R&D a même cadence via la semi-automatisation PI)
Automatisation de la Recherche Scientifique Falsifiable ! (pluridisciplinaire)
Machine Leanring Fondamental à venir :
L'Attention des Attentions, méta-cognition de l'attention, communication causale inter têtes d'attention
Machine Learning classique :
Tokenization classique BPE et Tokenization Invariante : Base2 => Base256 => Base65536
PreTrain BF16 (sage-attention ou flash-attention)
SFT (Supervised FineTuning)
RL (Reinforcement Learning)
https://huggingface.co/PhysiQuanty
Par la Science Et Pour La Science !
low compute, big ambitions...
0 jeux de données