Est-ce que vous utilisez kubernertes ? Comment vous gérez l'autoscaling ? Merci à Cast.ai : l.cocadmin.com/castai

Mec, c'est incroyable la quantité d'infos et de concepts que tu as synthétisés dans cette vidéo sans la rendre indigeste. Keep on with the good work!

Il faut plus de youtubeurs comme toi

Travail exceptionnel, merci pour ces explications et bravo pour le travail. En plus d'être informatif, le contenu est très agréable à suivre. Heureux de découvrir cette chaîne aujourd'hui.

Je tombe par hasard sur votre vidéo... et quelle bonne surprise, sûrement la meilleure à ce jour en termes d'explications. Maintenant on peut commencer à argumenter pourquoi il va être compliqué d'avoir des modèles de langage qui développent comme des experts. Si on veut un modèle de langage qui soit plus performant par un facteur X (notion de performance restant à définir), quel est le facteur Y sur le besoin en infrastructure? Quel est le facteur Z pour la taille des données d'apprentissage ? Je ne dis pas que ce n'est pas possible d'avoir des IA globales ou meilleures que le meilleur des experts humains. Mais quelle est la relation entre X, Y, et Z ? Logarithmique ? Linéaire ? Quadratique ? Exponentielle ? Si il faut multiplier par 10 la taille des infrastructures pour augmenter d'un facteur 2 la puissance d'un modèle de langage, on voit vite qu'il y a un problème. De même pour les données d'apprentissage.

Excellente vidéo ! Je travaille actuellement sur les transformers, mais spécifiquement dans le domaine de la classification d'images pour mon mémoire et je tiens à souligner la qualité exceptionnelle de vos explications.

Le montage est super bien fait 👌🏽 Quelle ascension ! Force à toi 💪🏽

Comme d'habitude, une masterclass de ta part. Tu devrais franchement faire + de vues

Au sujet du grand remplacement: dans mon entreprise tous les outils se basant sur les outils deep learning & co sont bannis pour des raisons de confidentialité et de propriété intellectuelle. Pour faire mon dinosaure: il y a des années de ca les premiers IDE devaient remplacer les devs experts pour que des devs juniors puissent avoir la meme productivité. Puis les méthodes de conception merise, uml & co devaient elles aussi se débarrasser des devs pour se focaliser sur le design puis faire de la génération de code automatique. Puis les languages à base de machines virtuelles devaient permettre de faciliter le développement en ne demandant plus aux devs de savoir comment marche la mémoire ou le cpu. Puis les nouveaux IDE ont automatisés pas mal de choses (cf. Intelij qui s'occupe d'un peu tout) tout en améliorant l'existant (complétion contextuelle, refactoring, ...). Bref les devs sont toujours là (et le niveau des juniors est clairement plus faible qu'il y a 10 ans la faute à des programmes d'études ultra chargés: tout voir mais ne rien vraiment connaître) mais clairement l'IA dans les prochaines années va automatiser pas mal de choses et tout ceux qui ont actuellement un poste sans connaissances ultra technique et/ou fonctionnelles/métier vont subir le changement. De temps en temps je regarde une image en noir et blanc qui date de l'éclatement de la bulle internet "will code for html for food". Dans les années 90 toutes les grandes boites internet de la Silicon Valley (Yahoo, ...) utilisaient des armées de dev html... qui ne connaissaient pas grand chose d'autres. Quand les plateformes sont passés à du code généré (jsp, php, ...) ils ont virés ces milliers de personnes du jour au lendemain. A méditer...

Vous êtes incroyable, continuez comme ça !!!

J'ai appris beaucoup vraiment top cette video, une petite demos de ce qu'est le fine-tuning et les models LLM en open source sur huggingface serait fort instructif en tout cas merci pour cette video passionnante et de qualité

Incroyable boulot! Tu gères. merci beaucoup !

Cette vidéo à le niveau de détail parfait pour une introduction technique à l'IA et aux LLM. Ça souligne les grands concepts mais ça reste concis, et ça pointe vers des resources si on veut reproduire soi-même. Merci !

Très bonne vidéo de vulgarisation sur le sujet, avec une présentation et un montage bien soignés. J’aime beaucoup ton approche. Quelques petites précisions/ remarques : - 124 millions de paramètres c’est pour la version small de GPT-2. Quand on le mentionne sans préciser on parle plutôt de celui a 1,5 milliards. - Pour les paramètres de GPT-4, je ferais preuve de prudence au moment de parler chiffres. Même si les sources peuvent paraître crédibles, OpenAI a déjà menti par le passé et on sait pas s’ils utilisent tous les supposés modèles en même temps etc. - GPT 3/3.5 peuvent avoir jusqu’à 4096 tokens dans leur fenêtre de contexte, et pas 2000. Même si lorsqu’on utilise la web app il y a déjà une partie utilisée par OpenAI avec leur prompt.

Excellente vidéo! Merci

« J’ai pas de table » Lourd 😎

Comme d'habitude c'est génial continue 👍

Très bonne vidéo continue t’es dans le thème

C'est trop top ta vidéo bravo!

Excellente vidéo très complète et bien expliquée, bravo!

Salut, super video, j'ai vraiment aimé. J'espère que tu feras un épisode 2 sur un autre type d'IA. D'ailleurs, ca serait possible d'avoir le Github de ton code stp

Super vidéo bonne vulgarisation sur un sujet pas simple 👍

Encore 23 minutes de pur bonheur et d'apprentissage ! Bonne vidéo à tous 🤣

Avec Kubernetes, l'autoscaling peut être géré en utilisant la fonctionnalité intégrée d'autoscaling horizontal (Horizontal Pod Autoscaler, HPA). L'HPA permet à Kubernetes d'ajuster automatiquement le nombre de répliques de pods (instances) en fonction de la charge de travail du cluster. Cela permet d'assurer que les applications sont toujours correctement dimensionnées pour faire face aux fluctuations de la demande. Par exemple, si tu gères l'autoscaling avec Kubernetes en utilisant l'Horizontal Pod Autoscaler, voici comment procéder : Tout d'abord, tu dois spécifier les métriques en fonction desquelles Kubernetes doit effectuer l'autoscaling. Il peut s'agir de métriques telles que l'utilisation du CPU, l'utilisation de la mémoire, ou des métriques personnalisées que tu as définies. Ces métriques seront utilisées pour évaluer la charge de travail du cluster. Tu dois spécifier les seuils de déclenchement pour l'autoscaling. Par exemple, tu peux définir un seuil d'utilisation du CPU de 70 %. Lorsque l'utilisation du CPU dépasse ce seuil, Kubernetes déclenchera l'autoscaling pour ajouter de nouvelles répliques de pods. Une fois que tu as configuré les métriques et les seuils, Tu peux créer un objet HPA dans Kubernetes en spécifiant les détails de l'autoscaling, tels que le nombre minimal et maximal de répliques de pods que tu souhaites. Une fois que l'HPA est en place, Kubernetes surveille en permanence les métriques spécifiées pour évaluer la charge de travail. Si les seuils sont atteints ou dépassés, Kubernetes ajustera automatiquement le nombre de répliques de pods en conséquence. L'utilisation de l'Horizontal Pod Autoscaler dans Kubernetes facilite grandement la gestion de l'autoscaling, car il s'occupe automatiquement d'ajuster le nombre de répliques de pods en fonction de la charge de travail, ce qui permet de maintenir les performances et de faire des économies de ressources lorsque la demande diminue. J'espère t'avoir aidé! Ciao!

Très bonne vidéo frérot, excellente vulga 👌

Et d'avoir une sorte de super IA open source et en peer to peer, genre un peu comme les torrent, ou la blockchaine, mais en gros chaque personne telecharge une application sur son PC pour entrainer UNE SEUL MEME IA collective

enfin une nouvelle vidéo que j'attendais

Sacré boulot, bravo !

Le montage de la vidéo est nickel !

Merci pour ces infos. Bonne continuation surtout. À tutti 😊

Franchement je suis choqué de ce que tu as codé 🤯BRAVO 🥳

Tu m as tuer avec JUL 🤣🤣🤣

Salut, j'ai eu la même idée y'a peu de temps aussi, une chaîne qui m'a aussi beaucoup aidé à comprendre l'IA c'est Machine LearnIA, c'est en français et plutôt bien expliqué

Bonjour, j’aurais aimé savoir sur quelle interface tu codes du python ( dans cette vidéo )

Fiouwww, merci pour cette masterclass.

une question: quel retour economique as tu eu de cettte experience ?celle de coder un gpt2

Ha ha ha extra ton intro 🤣

Super merci, plein de réponses à mes questions sur les LLM, c'est cool ! dire qu'on a Pi sur le tél désormais et c'est une IA très sympatoche, presque une amie ^^ MERCI ...Abonné, trop fort et trop cool tu es..Bravo pour ton travail et ton partage👌👍

Tant que l'IA ne comprendra pas ce qu'elle fait elle ne remplacera personne.

Bien vu. Ça me permet de mieux comprendre le mythe ! Merci à toi.

As tu essayé de jeter un oeil sur llama2 qui est open source et qui peut tourner sur ton laptop ?

Enorme video!!!

Le tiny jul ça m'a tué 🤣

- Convolution: * Action de convoluter, enroulement ensemble depuis un sommet, en papillote. * (Mathématiques) Opération qui consiste en la combinaison de deux fonctions. Sinon nous avons des CIRconvolutions dans le cerveau, ce qui semble logique dans un contexte où l'on parles de logiciels utilisant des couches de neurones artificiels :) Après "voluter" et "convoluter" n'est apparemment pas la même chose, vu qu'une "volute" (de fumée par exemple, qui... VOLe) n'est pas en forme de papillote mais de spirale.

Bravo pour le boulot @cocadmin pour avoir synthétiser tout ça, c'est l'une des meilleures vidéo que j'ai vu sur youtube

J’adore. J’aimerais ca que pour ta prochaine video tu essaie de cloner une carte opus(carte de transport artm au quebec) pour le mettre sur apple pay

Vrai trop bien les 4 épisodes

Salut merci pour ta vidéo instructif ! Je me demandais si les ordinateur quantique ne sera pas (plutard) la solution pour les architecture dédié IA ?

Bravo pour la vidéo. Franchement

@8'13 Salut, video trees sympa! cette methode dont tu dois parler, c'est pas le Transfer Learning? Tu peux recuperer les parametres d'un modele et tu les entrainent sur tes propres donnees...

Sur quelle plateforme tu a louer la machine avec les gpu a 20000 balle

Masterclass la vidéo, cimer ! D’ailleurs tu fais l’erreur (volontairement ou non) de dire chat-gpt 4, chat gpt 3, etc. mais faut bien différencier le modèle, à savoir GPT dans toutes ses versions (GPT-2, GPT-3.5, etc.) de l’application d’openai qui est chatgpt, et qui est juste plus ou moins une interface avec des appels aux modèles GPT, un peu de front, etc.

pour des dataset de instruction finetuning tu devrais regarder du coté de LLAMA, Alpaca dataset etc, c'est des dataset a base de questions réponses.

Bravo et merci

à votre avis, est ec que commencer de A à Z a apprendre l informatique et la programmation, ca en vaut encore la peine aujourd hui, sachant que ca prend du temps et que comme cocadmin l a dit au debut de la video, les intelligences artificiels pourront probablement prendre le relais plus tard ?

Est-ce que ton modèle d'I.A. est disponible en téléchargement ? C'est pour mon ami geekeur ^^

C est vraie que en téléchargent q Un apk un hacker peut avoir un contrôle totale sur notre Phone??

Le gars a codé JULGPT et a chanté lui meme🤣! Cocadmin président !!!

TinyJul est dispo quelque part sur un repo git ? J'aimerais bien l'utiliser pour faire des test ça a l'air dingo mdrr

Le Grand Remplacemebt m'a tué 🤣🤣

je suis dev et si l'IA sait me remplacer je m'inquiète. Non pas parce que je vais pointer à pôle emploi, mais parce que ça signifie qu'elle sera autonome et pourra alors créer une contre société et nous défoncer ! Et pour en revenir à la vidéo, beau travail ! Je vais checker tes autres vidéos

Super pédagogie !! Merci boss

Perso.. Yann Lecun, après avoir suivis quelques conf, j'ai capté le raisonnement qu'il a eu et comment on l'applique techniquement. Sinon, je me tate aussi pour installer une petite IA, toutes faites, pompé sur Github, et essayer de développer.. .. .. une sorte d'API ou je pourrais balancer la sortie d'applis standart, pour améliorer les résultats ou augmenter le nombre de fonctions, filtres, etc .. ( J'essaie toujours de conceptualiser le "truc" ) Mais c'est clair, cette techno, ca fait vriller ..🎉😁

Excellente vidéo de vulgarisation. Cependant, tu ne peux pas dire que le modèle Transformer est basé que sur 300 lignes de Python. Parce que je suppose que tu fait référence à la structure basé sur du pyTorch.

Est ce qu'une RTX3080 (non TI) est suffisante pour entrainer un modèle ?

Hey pas mal le montage adj

« Tiny Jul » 😂 encore une master class !!! 😉

trop intéressant ça donne envie de se faire son petit gpt maison

1:41 je ne suis pas expert mais il me semble que la traduction n'est pas très exact. Tu m'a tué 😂😂😂😂😂

L'intérêt le plus grand de l'IA ça sera surement pour optimiser le code informatique, que cela soit en terme d'apprentissage, de vérification, et d'optimisation (propositions de solutions alternatives avec leurs avantages et inconvénients). On peut même imaginer des langages informatiques qui soient créés par de l'IA, afin d'empêcher toute faille de sécurité, rapide et économe en mémoire.

le grand remplacement bien placé.......Haaaaaaaaaaa...tu m'as tué !!!

JUL JUL JUL :p tu me régale j'adore ta chaine :)

Tu relances le même défi avec stable diffusion ou mid Journey 😅

Une IA ne pourra jamais nous remplacer sur un projet custom, qui mélange plusieurs langages, dont le métier ignore lui même parfois ce qu’il veut et où le projet contient des 100ene voir milliers de fichiers dans des langages pas forcément typé et simple à retracer. Puis même si elle était capable de faire des choses aussi complexe il faudrait quelqu’un pour la diriger, écrire les prompts, vérifier le code, les possibles régression, les mauvaises interprétations, etc. Même avec des spécification ultra détaillée il n’est pas rare de devoir faire appel au product owner et de demander plus d’info au métier pour combler un manque d’info cruciale ou imprévue en cours de route. Bref ça fait beaucoup à maîtriser pour pouvoir nous remplacer et la liste pourrait être énormément plus longues sur des sujets tout aussi complexe et pas forcément lié à l’écriture de code pure (QA, code review, déploiements, etc.).

Superbes contenus !!! Sinon peux tu créer des cours Python pour débutants ? Parce que des cours de ce genre seront graves compréhensibles ! SVP

chez toi meme la pub est intéressante. si tu veux en faire plusieurs sur le sujet, je suis preneur.

Wow merci pour cette super vidéo ! Nous pourrais nous partager ton code qui t'a permis de faire tout ça ? Même si il est cracra on s'en fou c'est juste pour apprendre

Merci beaucoup

Je me demandais , avec les avancées actuelle des IA et leur capacité à résoudre certains problèmes informatiques / réseaux avec une simple question . Doit-on s'inquiéter en tant que Technicien , d'être remplacé d'ici peu via l'automatisation de tâches de maintenances , et résolution de pb informatique en demandant tout simplement la réponse à une IA ? Si quelqu'un a des éléments de réponse potentiellement ou des théories sur le sujet je serais ravi de les lire :)

Merci Cast Ai ❤️❤️❤️

Ah bah tiens elle tombe très bien cette vidéo, j'ai vu que les deux premières minutes et je me pose exactement les mêmes questions. Je regarde la suite.

Pourquoi azller sur UKposts et pas demander directement a Chat GPT comment un algo de ce type fonctionne ? ^^

très cool tout ca!

Je n’imagine même pas le taf que ça a dû te demander de monter cette vidéo😂

tu regale !!!

Du pureeeeee bonheur

Très bon travail mais par contre l'utilité de 8 RTX pour un script python 🤣🤣🤣🤣🤣🤣 Il faut que tu apprennes l'existence du GIL et même sans ça tourne sur CPU (ou alors tu vas galérer à le bypasser si t'es pas dev)

Hola rien qu'au titre de la vidéo je sens qu'on va bien samuser. Au fait, tu peux me dire ta config PC stp ?

Merci ;-)

MERCI FRERE

Penses-tu qu’avec le fine-tuning + tweak de température, les questions/réponses auraient été plus pertinentes ?

Mais avec les GPU quantiques, la limitation va disparaître non? :p

Possibilité qu'on ait accès à TinyJul ? Au moins le fichier .txt x)

L'intelligence artificielle est un outil, et le métier de développeur évoluera avec elle, mais non sans les développeurs.

un pti code promo pour les formations? :)

T'es incroyable 😮

Excellente vulgarisation!!

Allez, demain, "l'IA" nous explique la physique quantique ? "vivement demain" ! CQFD 2°

Ca peut donner quoi si tu l'entraîne avec les textes qu'il te sort

Super la vidéo mais je veux plus de vidéo avec du html dedans, je veux te voir galerer c'est trop trop drôle