IA

@bfmtech

90.5K followers · usually 6.4K views a post

Views

250.3K

Likes

16.4K

Comments

344

4.1K

SoundTikTok sound · original sound - bfmtech

Why it worked

The video leverages a high-stakes, fear-inducing topic (AI existential risk) and grounds it with credible sources (employees of leading AI companies). The inclusion of direct quotes and the context of a major IPO create a sense of urgency and newsworthiness.

Summary

This video discusses alarming statements made by current and former employees of AI company Anthropic regarding the existential risks posed by artificial intelligence. It highlights concerns about the race towards superintelligence without adequate safety measures or regulatory frameworks, particularly in light of Anthropic's upcoming IPO.

Structure

1Introduction of AI existential risk concerns from Anthropic employees.
2Jacob Coxon's resignation and critical statements about OpenAI and Anthropic.
3Evan Hubinger's public agreement with Coxon's concerns.
4Discussion of the lack of clear plans for AI alignment and safety.
5Anthropic's withdrawal of a commitment to halt models if risks become uncontrollable.
6Lack of federal regulation for AI systems in the US.

Product placement

BFM Tech: Appears as a watermark/logo throughout the video. Removing it would not change what happens in the video. IA (Artificial Intelligence): The general topic of discussion. Removing it would change the topic of the video. Anthropic: A company that develops AI. It is discussed as the employer of the speakers and the subject of the news. Removing it would change the topic of the video. OpenAI: A company that develops AI. It is mentioned as a former employer of Jacob Coxon. Removing it would not change the main topic of the video. Jacob Coxon: A former employee of Anthropic and OpenAI who made a statement about AI risks. His statements are central to the video's narrative. Removing him would change the topic of the video. X (formerly Twitter): A social media platform where Jacob Coxon posted his statements. Removing it would not change the main topic of the video. ChatGPT: Appears as a logo on a screen. It is an AI model developed by OpenAI. Removing it would not change the main topic of the video. DALL-E 2: Appears as a logo on a screen. It is an AI model developed by OpenAI. Removing it would not change the main topic of the video. Microsoft: Appears as a logo on a screen. It is a company involved in AI development. Removing it would not change the main topic of the video. Bing: Appears as a logo on a screen. It is an AI-powered search engine from Microsoft. Removing it would not change the main topic of the video. Grok: Appears as a logo on a screen. It is an AI model. Removing it would not change the main topic of the video. Evan Hubinger: A current employee of Anthropic who publicly agreed with Jacob Coxon's statements. His statements are central to the video's narrative. Removing him would change the topic of the video.

Original caption

Des salariés d’Anthropic alertent sur un “risque mortel” lié à l’IA 🤖📱 Sur X, un ancien salarié du géant de l’IA et un responsable technique actuel affirment qu’une superintelligence, graal convoité par toutes les entreprises d’IA, pourrait "tuer l’humanité d’ici 10 ans". Des aveux qui tombent alors que l’entreprise prépare son entrée en Bourse, sans garde‑fous clairs et sans cadre légal sur l’IA aux États‑Unis. 🎙️Chloé Desagnat #ia #anthropic #openai

More from @bfmtech

On-screen text

IA "L'IA pourrait tuer tous les humains": l'aveu glaçant de salariés d'Anthropic BFM Tech Post @hilbertspsess 6 heures Jacob Coxon I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below. superintelligence and gambling with our lives. 4.7K 227 2.2K Jacob Coxon @hilbertspsess 6 heures Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field and acquire real power and resources. We have all witnessed the overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing. progress in each of these domains, and progress is not slowing. 195 2.3K 3.5K 2517 Jacob Coxon Tout est parti d'un thread sur le réseau social X. Jacob Coxon, qui a travaillé chez OpenAI avant de rejoindre Anthropic, annonce claquer la porte de l'entreprise, où il travaillait sur le pré-entraînement des modèles d'IA. Il explique que ces entreprises "jouent à la roulette russe avec nos vies" en allant toujours plus loin dans la course à une IA "superintelligente", c'est-à-dire capable d'apprendre et de s'améliorer toute seule. Selon lui, Anthropic et OpenAI, "n'agissent pas de manière responsable": elles foncent vers la superintelligence, sans garde-fous, et en étant parfaitement conscientes du risque. "Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie. (...) Aucune autre activité humaine n'atteint un tel niveau de danger." Jacob Coxon Ancien membre de l'équipe technique d'Anthropic Jacob is correct here-we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. Reply to @hilbertspsess 8h The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will counter their phrasing in the press to sound sensible - but I hear the same people express fear. 1:27 PM Sep 8, 2026 10M Views L'histoire aurait pu s'arrêter là mais un responsable de la sûreté d'Anthropic, Evan Hubinger, toujours en poste lui, a publiquement donné raison à Jacob Coxon sur X. "Nous croyons sincèrement que l'IA pourrait causer l'extinction de l'humanité. Personnellement, j'estime la probabilité à plus de 10% au cours de la prochaine décennie." Evan Hubinger Responsable de la sûreté, Anthropic Hubinger reconnaît qu'Anthropic fait "de son mieux", mais admet qu'il n'existe aucun plan clair pour aligner une superintelligence sur les intentions humaines. Ces aveux publics glacants surviennent au moment où Anthropic prépare une entrée en Bourse massive, et après un été déjà marqué par de multiples piratages... menés par des IA en test. Dans les labos, on parle désormais de "crunchtime" et "endgame": le moment où l'IA pourrait concevoir seule son successeur hors de tout contrôle humain Jacob Coxon, lui, estime qu'aucune entreprise ne peut gérer ça seule : il faut des États, des règles, un ralentissement coordonné. Sauf qu'en février, Anthropic a retiré de sa charte l'engagement de stopper ses modèles si les risques devenaient incontrôlables. Et aux États-Unis, aucune loi fédérale n'encadre encore ces systèmes. BFM Journaliste Chloé Desagnat

Transcript

L'IA pourrait tuer tous les humains dans la prochaine décennie. Cette phrase terrifiante n'est pas tirée d'un film catastrophe, mais d'un responsable du géant de l'IA, Anthropic. Tout est parti d'un thread sur le réseau social X. Jacob Coxon, qui a travaillé chez OpenAI avant de rejoindre Anthropic, annonce claquer la porte de l'entreprise, où il travaillait sur le pré-entraînement des modèles d'IA. Il explique que ces entreprises "jouent à la roulette russe avec nos vies" en allant toujours plus loin dans la course à une IA "superintelligente", c'est-à-dire capable d'apprendre et de s'améliorer toute seule. Selon lui, Anthropic et OpenAI, "n'agissent pas de manière responsable": elles foncent vers la superintelligence, sans garde-fous, et en étant parfaitement conscientes du risque. "Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie. (...) Aucune autre activité humaine n'atteint un tel niveau de danger." Jacob Coxon, Ancien membre de l'équipe technique d'Anthropic. Jacob is correct here-we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. Reply to @hilbertspsess 8h The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will counter their phrasing in the press to sound sensible - but I hear the same people express fear. 1:27 PM Sep 8, 2026 10M Views L'histoire aurait pu s'arrêter là mais un responsable de la sûreté d'Anthropic, Evan Hubinger, toujours en poste lui, a publiquement donné raison à Jacob Coxon sur X. "Nous croyons sincèrement que l'IA pourrait causer l'extinction de l'humanité. Personnellement, j'estime la probabilité à plus de 10% au cours de la prochaine décennie." Evan Hubinger, Responsable de la sûreté, Anthropic. Hubinger reconnaît qu'Anthropic fait "de son mieux", mais admet qu'il n'existe aucun plan clair pour aligner une superintelligence sur les intentions humaines. Ces aveux publics glaçants surviennent au moment où Anthropic prépare une entrée en Bourse massive, et après un été déjà marqué par de multiples piratages... menés par des IA en test. Dans les labos, on parle désormais de "crunchtime" et "endgame": le moment où l'IA pourrait concevoir seule son successeur hors de tout contrôle humain. Jacob Coxon, lui, estime qu'aucune entreprise ne peut gérer ça seule : il faut des États, des règles, un ralentissement coordonné. Sauf qu'en février, Anthropic a retiré de sa charte l'engagement de stopper ses modèles si les risques devenaient incontrôlables. Et aux États-Unis, aucune loi fédérale n'encadre encore ces systèmes.