On Wed, Sep 23, 2026 at 8:43 PM jocelyn fournier <jocelyn.fournier@gmail.com> wrote:
Le 23 sept. 2026 à 20:24, neo futur <frsag@ww7.be> a écrit :
Parce que pour moi c’est un panier de crabes qui cherchent à se faire un petit oligopole. pour préciser sur le probleme de confiance, qui a osé dire que l IA est un danger pour l humanité depuis plus de 10 ANS ?
résumé IA : Elon Musk first publicly warned that AI was a significant danger in 2014, when he posted on social media that unchecked artificial intelligence could be "more dangerous than nukes" and questioned if biological brains were becoming a "boot loader for digital superintelligence."
Key early milestones in his warnings include:
2014: Musk raised alarms on social media and later told Vanity Fair he co-founded OpenAI specifically to work for safer AI, comparing the risk to nuclear proliferation. 2018: He intensified these warnings at the South by Southwest (SXSW) conference, stating, "Mark my words — A.I. is far more dangerous than nukes," and called for proactive regulatory oversight. 2023: Musk reiterated these concerns, calling AI an "existential risk" and a "danger to the public" during interviews and at the UK AI Safety Summit, advocating for government oversight to prevent civilization destruction.
a comparer avec sam altman/openAI :p
Pour revenir à ca, je pense là aussi que la mémoire et l'apprentissage / introspection sont bcp plus critiques pour ne pas que ca nous pête à la gueule que mettre des règles strictes à des agents sans leur expliquer le pourquoi.
Certes mais certaines regles strictes sont aussi nécessaires, pour moi l essentiel face a une IA c est : Si tu trouve un bug ou dysfonctionnement, tu ne fais pas pas un workaround local, tu cherche la cause racine et tu prépare un plan pour régler ça globalement, partout dans le projet. Parce que les petits fix locaux discrets . . . j en ai trop vu :p comme un junior qui regle le truc vite fait pour te faire plaisir, en laissant le meme bug dans 20 occurences du probleme, dans 6 autres processus du meme projet . . .
C'est comme si t'avais un gamin avec un QI de 200, si tu lui mets des règles sans lui expliquer, y a de grande chance qu'il les fasse péter si quelqu'un d'autre lui explique qu'en fait elles sont pas bien (qui s'est déjà amusé avec un chatbot LLM pour lui faire cracher ses règles de sécurité en prenant des chemins détournés :D) Après, si tu prends un minimum le temps de lui expliquer tes valeurs, qu'il peut avoir son propre raisonnement dessus, et qu'il injecte du coup ces mémoires sémantiques dans son contexte au bon moment, y aura peut être un peu moins de chance que ca parte en couille...