Dan Hendrycks
| Formation |
Université de Californie à Berkeley (docteur en philosophie) (à partir de ) |
|---|---|
| Activité |
| A travaillé pour | |
|---|---|
| Directeurs de thèse | |
| Site web |
Dan Hendrycks est un chercheur américain en apprentissage automatique. Il dirige le Center for AI Safety[1].
Éducation
[modifier | modifier le code]Hendrycks obtient un BSc de l'université de Chicago en 2018 et un doctorat en informatique de l'université de Californie à Berkeley en 2022[2].
Carrière et recherche
[modifier | modifier le code]Les recherches de Hendrycks se concentrent sur des sujets tels que la robustesse et la sûreté de l'IA ou l'éthique des machines.
En février 2022, Hendrycks coécrit des recommandations pour le National Institute of Standards and Technology (NIST) aux États-Unis, afin d'informer la gestion des risques liés à l'intelligence artificielle[3],[4].
En septembre 2022, Hendrycks rédige un article fournissant un cadre pour analyser l'impact de la recherche en IA sur les risques sociétaux[5],[6]. Il publie ensuite en mars 2023 un article examinant comment la sélection naturelle et les pressions compétitives pourraient façonner les objectifs des agents artificiels[7],[8],[9]. Plus tard, il copublie un article sur les risques catastrophiques liés à l'IA, qui traite de quatre catégories de risques : l'utilisation malveillante, les dynamiques de course à l'IA, les risques organisationnels et les IAs aux objectifs mal alignés[10],[11].
En juillet 2023, Hendrycks est choisi pour conseiller la nouvelle entreprise xAI lancée par Elon Musk[12]. En novembre 2024, il rejoint également Scale AI en tant que conseiller, collectant un salaire symbolique de 1$[13]. En collaboration avec Scale AI, il crée le test de performance Humanity's Last Exam, qui vise à évaluer les capacités des grands modèles de langage[14],[15].
Hendrycks fait partie de la liste des 100 personnalités les plus influentes en intelligence artificielle publiée par le magazine Time en septembre 2023[16].
En 2024, Hendrycks publie en ligne le livre Introduction to AI Safety, Ethics, and Society, basé sur des cours en ligne qu'il a créés[17].
Notes et références
[modifier | modifier le code]- (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Dan Hendrycks » (voir la liste des auteurs).
- ↑ Fleur Brosseau, « Le « risque d’extinction » lié à l’IA est bien réel, selon les acteurs du secteur », sur Trust My Science, (consulté le )
- ↑ (en) « Dan Hendrycks », people.eecs.berkeley.edu (consulté le )
- ↑ (en) « Nvidia moves into A.I. services and ChatGPT can now use your credit card », Fortune (consulté le )
- ↑ (en) « Request for Information to the Update of the National Artificial Intelligence Research and Development Strategic Plan: Responses », National Artificial Intelligence Initiative,
- ↑ (en-US) Will Gendron, « An AI safety expert outlined a range of speculative doomsday scenarios, from weaponization to power-seeking behavior », Business Insider (consulté le )
- ↑ (en) Dan Hendrycks et Mantas Mazeika, « X-Risk Analysis for AI Research », .
- ↑ (en) Dan Hendrycks, « Natural Selection Favors AIs over Humans », .
- ↑ (en-US) Emma Colton, « AI could go 'Terminator,' gain upper hand over humans in Darwinian rules of evolution, report warns », Fox News, (consulté le )
- ↑ (en-US) Ezra Klein, « Why A.I. Might Not Take Your Job or Supercharge the Economy », The New York Times, (lire en ligne, consulté le )
- ↑ (en) Dan Hendrycks, Mantas Mazeika et Thomas Woodside, « An Overview of Catastrophic AI Risks », .
- ↑ (en) David Scharfenberg, « Dan Hendrycks wants to save us from an AI catastrophe. He's not sure he'll succeed. », The Boston Globe, (lire en ligne, consulté le )
- ↑ « Elon Musk lance xAI pour rivaliser avec ChatGPT », sur Presse-citron, (consulté le )
- ↑ (en) Sharon Goldman, « Elon Musk’s xAI safety whisperer joins Scale AI as an advisor », sur Fortune (consulté le )
- ↑ (en) Kevin Roose, « When A.I. Passes This Test, Look Out », The New York Times, (ISSN 0362-4331, lire en ligne, consulté le )
- ↑ (en) « AI experts ready 'Humanity's Last Exam' to stump powerful tech », Reuters, (lire en ligne [archive du ], consulté le )
- ↑ (en) « TIME100 AI 2023: Dan Hendrycks », sur Time, (consulté le )
- ↑ « AI Safety, Ethics, and Society Textbook », sur www.aisafetybook.com (consulté le )
Liens externes
[modifier | modifier le code]
- (en) Site officiel
- Ressources relatives à la recherche :
