PhysiQuanty

Autre

URGENCE : Combler le manque de données pour le pré entraînement des modèles d'IA par des données OpenSource, y compris la création de jeux de données supervisés


Machine Leanring Appliqué à venir :

  • Semi-Automatisation de l’ingénierie Propriété intellectuelle : Brevets

    (aide au ingénieur PI => Baisse du coût de la PI => Augmentation du nombre de dépôt de demande de brevets)

  • Automatisation de la R&D (et protection de cette R&D a même cadence via la semi-automatisation PI)

  • Automatisation de la Recherche Scientifique Falsifiable ! (pluridisciplinaire)


Machine Leanring Fondamental à venir :

  • L'Attention des Attentions, méta-cognition de l'attention, communication causale inter têtes d'attention


Machine Learning classique :

  • Tokenization classique BPE et Tokenization Invariante : Base2 => Base256 => Base65536

  • PreTrain BF16 (sage-attention ou flash-attention)

  • SFT (Supervised FineTuning)

  • RL (Reinforcement Learning)


https://huggingface.co/PhysiQuanty

Par la Science Et Pour La Science !

low compute, big ambitions...

0 jeux de données