Des experts en intelligence artificielle exhortent le Congrès à écouter diverses voix sur la réglementation


Le PDG d’OpenAI, Sam Altman, témoigne devant une audience du sous-comité judiciaire du Sénat sur la confidentialité, la technologie et le droit intitulée « Surveillance de l’IA : Règles pour l’intelligence artificielle » à Capitol Hill à Washington, États-Unis, le 16 mai 2023. REUTERS/Elizabeth Frantz

Elisabeth Frantz | Reuter

Lors de la plupart des auditions de PDG de la technologie ces dernières années, les législateurs ont adopté un ton controversé, grillant les dirigeants sur leurs pratiques de confidentialité des données, leurs méthodes concurrentielles et plus encore.

Mais lors de l’audience de mardi sur la surveillance de l’IA, y compris le PDG d’OpenAI, Sam Altman, les législateurs semblaient nettement plus accueillants envers le fabricant de ChatGPT. Un sénateur est même allé jusqu’à demander si Altman serait qualifié pour administrer les règles régissant l’industrie.

L’accueil chaleureux d’Altman à Capitol Hill, qui comprenait un dîner-discussion la veille avec des dizaines de législateurs de la Chambre et une conférence distincte mardi après-midi en présence du président de la Chambre Kevin McCarthy, R-Calif., A soulevé des inquiétudes de la part de certains experts de l’IA qui n’étaient pas dans fréquentation cette semaine.

Ces experts avertissent que la décision des législateurs de se renseigner sur la technologie auprès d’un dirigeant de premier plan de l’industrie pourrait influencer indûment les solutions qu’ils cherchent à réglementer l’IA. Lors de conversations avec CNBC dans les jours qui ont suivi le témoignage d’Altman, les dirigeants de l’IA ont exhorté le Congrès à s’engager avec un ensemble diversifié de voix sur le terrain pour s’assurer qu’un large éventail de préoccupations sont traitées, plutôt que de se concentrer sur celles qui servent les intérêts des entreprises.

OpenAI n’a pas immédiatement répondu à une demande de commentaire sur cette histoire.

Un ton amical

Pour certains experts, le ton de l’audience et les autres engagements d’Altman sur la Colline ont sonné l’alarme.

Selon Meredith Whittaker, présidente de la Signal Foundation et cofondatrice de l’AI Now Institute de l’Université de New York, les éloges des législateurs pour Altman ressemblaient parfois presque à un “culte des célébrités”.

“Vous ne posez pas les questions difficiles aux personnes pour lesquelles vous êtes engagé dans un fandom”, a-t-elle déclaré.

“Cela ne ressemble pas au genre d’audience axée sur la responsabilité”, a déclaré Sarah Myers West, directrice générale de l’AI Now Institute. “Dire, ‘Oh, vous devriez être en charge d’une nouvelle agence de régulation’ n’est pas une posture de responsabilité.”

West a déclaré que le ton “élogieux” de certains représentants après le dîner avec Altman était surprenant. Elle a reconnu que cela pourrait “signaler qu’ils essaient juste de se faire une idée de ce qu’est même ce nouveau marché”.

Mais elle a ajouté : “Ce n’est pas nouveau. Ça existe depuis longtemps.”

Safiya Umoja Noble, professeur à UCLA et auteur de “Algorithms of Oppression: How Search Engines Reinforce Racism”, a déclaré que les législateurs qui ont assisté au dîner avec Altman semblaient “profondément influencés pour apprécier son produit et ce que fait son entreprise. Cela ne semble pas être une délibération équitable sur les faits de ce que sont ces technologies.”

“Honnêtement, il est décourageant de voir le Congrès laisser ces PDG ouvrir la voie à une carte blanche, tout ce qu’ils veulent, les conditions qui leur sont les plus favorables”, a déclaré Noble.

De vraies différences avec l’ère des réseaux sociaux ?

Lors de l’audience de mardi au Sénat, les législateurs ont fait des comparaisons avec l’ère des médias sociaux, notant leur surprise que les dirigeants de l’industrie se soient présentés pour demander une réglementation. Mais les experts qui se sont entretenus avec CNBC ont déclaré que les appels à la réglementation de l’industrie n’étaient pas nouveaux et servaient souvent les propres intérêts d’une industrie.

“Il est vraiment important de prêter attention aux détails ici et de ne pas laisser la prétendue nouveauté de quelqu’un dans la technologie disant le mot” réglementation “sans se moquer de nous distraire des enjeux très réels et de ce qui est réellement proposé, la substance de ces réglementations”, a déclaré Whittaker. .

“Facebook utilise cette stratégie depuis des années”, a déclaré Meredith Broussard, professeur à l’Université de New York et auteur de “More Than a Glitch: Confronting Race, Gender, and Ability Bias in Tech”, à propos de l’appel à la réglementation. “Vraiment, ce qu’ils font, c’est qu’ils disent:” Oh, oui, nous sommes définitivement prêts à être réglementés “… Et puis ils font pression [for] exactement le contraire. Ils profitent de la confusion.”

Les experts ont averti que les types de réglementation suggérés par Altman, comme une agence pour superviser l’IA, pourraient en fait bloquer la réglementation et enraciner les titulaires.

“Cela semble être un excellent moyen de ralentir complètement tout progrès en matière de réglementation”, a déclaré Margaret Mitchell, chercheuse et responsable de l’éthique chez la société d’intelligence artificielle Hugging Face. “Le gouvernement n’a déjà pas assez de ressources pour bien soutenir les agences et entités qu’il a déjà.”

Ravit Dotan, qui dirige un laboratoire d’éthique de l’IA à l’Université de Pittsburgh ainsi que l’éthique de l’IA à la startup d’IA générative Bria.ai, a déclaré que s’il est logique que les législateurs tiennent compte des opinions des entreprises Big Tech puisqu’elles sont des parties prenantes clés, ils ne doivent pas dominer la conversation.

“L’une des préoccupations des petites entreprises en général est de savoir si la réglementation serait si lourde que seules les grandes entreprises sont vraiment capables de gérer [it]et les petites entreprises finissent par avoir beaucoup de fardeaux », a déclaré Dotan.

Plusieurs chercheurs ont déclaré que le gouvernement devrait se concentrer sur l’application des lois déjà en vigueur et ont applaudi un déclaration récente d’une agence conjointe qui affirmait que les États-Unis avaient déjà le pouvoir de faire respecter les résultats discriminatoires de l’utilisation de l’IA.

Dotan a déclaré qu’il y avait des points positifs lors de l’audience lorsqu’elle a estimé que les législateurs étaient “informés” dans leurs questions. Mais dans d’autres cas, elle a déclaré qu’elle aurait souhaité que les législateurs aient pressé Altman d’obtenir des explications ou des engagements plus approfondis.

Par exemple, interrogé sur la probabilité que l’IA déplace des emplois, Altman a déclaré qu’elle finira par créer davantage d’emplois de qualité. Alors que Dotan a déclaré qu’elle était d’accord avec cette évaluation, elle aurait souhaité que les législateurs aient demandé à Altman des solutions plus potentielles pour aider les travailleurs déplacés à trouver un travail ou à acquérir une formation professionnelle dans l’intervalle, avant que de nouvelles opportunités d’emploi ne deviennent plus largement disponibles.

“Il y a tellement de choses qu’une entreprise avec la puissance d’OpenAI soutenue par Microsoft a quand il s’agit de déplacement », a déclaré Dotan. « Donc, pour moi, laisser les choses comme « votre marché finira par se débrouiller », a été très décevant.

Diversité des voix

Un message clé que les experts en IA ont pour les législateurs et les responsables gouvernementaux est d’inclure un plus large éventail de voix, à la fois dans les antécédents personnels et dans le domaine d’expérience, lorsqu’ils envisagent de réglementer la technologie.

“Je pense que les organisations communautaires et les chercheurs devraient être à la table; les personnes qui ont étudié les effets nocifs de divers types de technologies devraient être à la table”, a déclaré Noble. “Nous devrions avoir des politiques et des ressources disponibles pour les personnes qui ont été endommagées et blessées par ces technologies … Il y a beaucoup de bonnes idées de réparation qui viennent de personnes qui ont été blessées. Et nous n’avons vraiment pas encore vu de sens l’engagement de ces manières.”

Mitchell a déclaré qu’elle espérait que le Congrès s’engagerait plus spécifiquement auprès des personnes impliquées dans l’audit des outils d’IA et des experts du capitalisme de surveillance et des interactions homme-ordinateur, entre autres. West a suggéré que les personnes ayant une expertise dans les domaines qui seront touchés par l’IA devraient également être incluses, comme les experts du travail et du climat.

Whittaker a souligné qu’il pourrait déjà y avoir “des graines plus prometteuses d’une réglementation significative en dehors du gouvernement fédéral”, citant l’exemple de la grève de la Writers Guild of America, dans laquelle les revendications incluent des protections d’emploi contre l’IA.

Le gouvernement devrait également accorder une plus grande attention et offrir plus de ressources aux chercheurs dans des domaines comme les sciences sociales, qui ont joué un rôle important dans la découverte des façons dont la technologie peut entraîner de la discrimination et des préjugés, selon Noble.

“Beaucoup de défis concernant l’impact de l’IA dans la société sont venus d’humanistes et de spécialistes des sciences sociales”, a-t-elle déclaré. “Et pourtant, nous constatons que le financement qui repose sur nos découvertes, très franchement, est maintenant redistribué aux départements d’informatique qui travaillent aux côtés de l’industrie.”

Noble a dit qu’elle était “stupéfaite” de voir que le Annonce par la Maison Blanche du financement de sept nouveaux centres de recherche sur l’IA semblait avoir un l’accent sur l’informatique.

“La plupart des femmes que je connais qui ont été les principales voix autour des méfaits de l’IA au cours des 20 dernières années ne sont pas invitées à la Maison Blanche, ne sont pas financées par [the National Science Foundation and] ne sont inclus dans aucun type de soutien transformateur », a déclaré Noble. « Et pourtant, notre travail a et a eu un impact énorme sur le changement des conversations sur l’impact de ces technologies sur la société.

Noble a souligné la réunion de la Maison Blanche au début du mois qui comprenait Altman et d’autres PDG de la technologie, tels que de Google Sundar Pichai et Satya Nadella de Microsoft. Noble a dit le photo de cette réunion “a vraiment raconté l’histoire de qui s’est mis en charge. … Les mêmes personnes qui ont été les créateurs des problèmes sont maintenant en quelque sorte en charge des solutions.”

Faire appel à des chercheurs indépendants pour dialoguer avec le gouvernement donnerait à ces experts la possibilité de faire des “contrepoints importants” aux témoignages des entreprises, a déclaré Noble.

Pourtant, d’autres experts ont noté qu’eux-mêmes et leurs pairs se sont engagés avec le gouvernement à propos de l’IA, mais sans la même attention médiatique que l’audience d’Altman a reçue et peut-être sans un grand événement comme le dîner auquel Altman a assisté avec une large participation de législateurs.

Mitchell craint que les législateurs ne soient désormais “amorcés” par leurs discussions avec les leaders de l’industrie.

“Ils ont pris la décision d’entamer ces discussions, de fonder ces discussions sur les intérêts des entreprises”, a déclaré Mitchell. “Ils auraient pu aller dans une direction totalement opposée et leur demander en dernier.”

Mitchell a déclaré qu’elle appréciait les commentaires d’Altman sur l’article 230, la loi qui aide à empêcher les plateformes en ligne d’être tenues responsables du discours de leurs utilisateurs. Altman a admis que les résultats des outils d’IA générative ne seraient pas nécessairement couverts par le bouclier de responsabilité légale et qu’un cadre différent est nécessaire pour évaluer la responsabilité des produits d’IA.

“Je pense qu’en fin de compte, le gouvernement américain ira dans une direction qui favorise les grandes entreprises technologiques”, a déclaré Mitchell. “J’espère que d’autres personnes, ou des personnes comme moi, pourront au moins minimiser les dégâts, ou montrer une partie du diable dans les détails pour éloigner certaines des idées les plus problématiques.”

“Il y a tout un chœur de personnes qui ont mis en garde contre les problèmes, y compris les préjugés liés à la race, au sexe et au handicap, à l’intérieur des systèmes d’IA”, a déclaré Broussard. “Et si les voix critiques s’élèvent autant que les voix commerciales, alors je pense que nous allons avoir un dialogue plus solide.”

Abonnez-vous à CNBC sur YouTube.

REGARDER : Les clones chinois de ChatGPT peuvent-ils lui donner un avantage sur les États-Unis dans une course aux armements en IA ?

Les clones chinois de ChatGPT peuvent-ils lui donner un avantage sur les États-Unis dans une course aux armements en IA ?



[colabot2]

Source link

Leave a Comment

Your email address will not be published. Required fields are marked *

PHP Code Snippets Powered By : XYZScripts.com
Scroll to Top