Récemment, Mark Anderson a publié un article sur le site Web de l'entreprise expliquant pourquoi l'IA sauvera le monde, remettant en question avec audace la rationalité des appels actuels à une réglementation de l'IA et critiquant systématiquement les arguments sur lesquels ces appels sont fondés.
Cet article combine les interviews précédentes de l'auteur, des articles et même les opinions d'économistes et d'hommes politiques qu'il admirait. Il est divisé en cinq parties pour faire une analyse et une interprétation plus approfondies de son contenu principal, aidant les lecteurs à comprendre pourquoi il pense que l'optimisme est toujours le plus sûr Choisissez, et en même temps voyez les risques inhérents au pessimisme et au scepticisme.
Ces points de vue peuvent sembler fous à beaucoup de gens, et il est difficile d'y penser de cette façon. Mais comme l'a dit Mark Anderson, en débattant avec les gens, vous pouvez grossièrement construire un modèle de la pensée des autres, et vous pouvez penser aux problèmes de leur point de vue, et votre façon de penser deviendra plus objective et neutre.
Le pessimisme est répandu dans presque toutes les sociétés.
ChatGPT a balayé le monde et le PDG d'Open AI, Sam Altman, est apparu à l'audience du Congrès américain, appelant à la réglementation de l'IA.
Il a ensuite signé une déclaration de risque avec Stuart Russell, Geoffrey Hinton, Yoshua Bengio et d'autres.
Bientôt, Musk est également apparu dans une lettre conjointe signée par des milliers de personnes, appelant le laboratoire d'IA à suspendre immédiatement les recherches.
À cette époque, Mark Anderson, à la tête de la plus grande société de capital-risque au monde, a16z, se lèvera toujours et deviendra la pom-pom girl qui "chante le contraire".
Il y a un paradoxe au cœur de la culture américaine : en théorie, nous aimons le changement, mais lorsque le changement se matérialise et se manifeste réellement, il est soumis à un contrecoup massif.
Je suis très optimiste, surtout quand il s'agit de nouvelles idées. Mark Anderson pense qu'il est probablement la personne la plus optimiste qu'il ait jamais rencontrée. "Depuis au moins 20 ans, si vous pariez sur les optimistes, en général, vous avez raison."
Il a toutes les raisons de le penser. En 1994, Mark Anderson est venu pour la première fois dans la Silicon Valley, a fondé Netscape et a terminé la cotation dans les plus brefs délais.
Anderson, qui était assis pieds nus sur le trône, est apparu plus tard sur la couverture de Time Magazine et est devenu un modèle de la Silicon Valley du mythe de la richesse technologique, attirant d'innombrables retardataires.
D'une certaine manière, c'est lui qui a allumé le feu dans la Silicon Valley, et le genre d'optimiste décrit par le physicien quantique américain David Deutsch dans "The Beginning of Infinity", qui espère y parvenir en faisant progresser les connaissances, y compris les conséquences imprévues de un tel progrès.
Le pessimisme est différent. Ils seront fiers du respect par leurs enfants de modèles de comportement appropriés et se lamenteront à chaque nouveauté réelle ou imaginaire. Il essaie d'éviter tout ce qui n'est pas confirmé comme sûr.
Très peu de civilisations ont survécu en étant plus prudentes face à l'innovation. Comme l'écrit David Deutsch dans The Beginning of Infinity, en fait, la plupart des civilisations qui ont été détruites ont mis en œuvre avec enthousiasme le principe de précaution (éviter tout ce qui n'est pas connu pour être sûr pour éviter la catastrophe).
Tout est resté stable et inchangé au cours des cent dernières années, ce qui ne semble jamais vraiment se produire. Les sceptiques ont toujours tort. Mark Anderson l'a dit aussi.
**01. Réglementation sur l'IA : qui en profite ? Qui est endommagé ? **
Mark Anderson se qualifie lui-même de « accélérationniste de l'IA ».
Un croyant qui espère accélérer le processus social lié à l'IA pour résister à la résistance et provoquer un grand changement social sera naturellement plein de doutes quant à l'appel à la réglementation.
"Il existe une opinion selon laquelle la réglementation gouvernementale est bien intentionnée, bénigne et correctement mise en œuvre. C'est un mythe. " Mark Anderson a longtemps cru que l'un des maux du système américain était la réglementation. Le gouvernement continue de formuler des lois et des règlements. , de sorte que beaucoup ressemblent à des lois comme "Pas d'alcool vendu le dimanche" et "Les hommes ne sont pas autorisés à manger du kimchi le mardi".
L'économiste de la réglementation Bruce Yandle a proposé un concept dans les années 1920 qui a été utilisé pour expliquer les problèmes de réglementation gouvernementale : la théorie des contrebandiers et des baptistes.
Par exemple, Yandle estime que le passage de la prohibition, en plus de s'appuyer sur les baptistes (baptistes, dont les antécédents religieux leur font croire que l'alcool a violé la société), repose également sur le soutien des contrebandiers. Ils soutiennent une réglementation accrue par le gouvernement pour réduire la concurrence des marchands légitimes - puisque les consommateurs ne pouvaient pas se saouler sur le marché sous la prohibition, ils se sont naturellement tournés vers les contrebandiers.
La théorie des bootleggers et des baptistes souligne que les baptistes fournissent le fondement moral de la soi-disant réglementation (le gouvernement n'a pas à trouver de raisons retentissantes), tandis que les bootleggers persuadent discrètement les politiciens à huis clos (intérêts collaborant), une telle alliance Faites en sorte qu'il soit plus facile pour les politiciens de soutenir les deux groupes.
** La théorie indique également que de telles alliances conduisent à une législation sous-optimale, et bien que les deux groupes soient satisfaits du résultat, il peut être préférable pour la société dans son ensemble de n'avoir aucune législation, ou une législation différente. **
Mark Anderson emprunte cette théorie pour montrer pourquoi la réglementation avec de bons motifs fait souvent de mauvaises choses.
« Souvent, le résultat de ces campagnes de réforme est que les contrebandiers obtiennent ce qu'ils veulent – la capture réglementaire (les régulateurs deviennent les serviteurs de quelques entités commerciales), la concurrence ségréguée, la formation de cartels – dans une question baptiste bien motivée, d'où vient leur volonté de socialisation ? les progrès tournent mal ?", a-t-il écrit dans un essai récent, Why AI Will Save the World.
Dans le domaine de l'intelligence artificielle, les "baptistes" sont ces croyants qui croient vraiment que l'intelligence artificielle détruira les êtres humains. Certains vrais croyants sont même des innovateurs de cette technologie, et ils préconisent activement toutes sortes de restrictions étranges et extrêmes sur l'IA.
Les "bootleggers (contrebandiers)" sont des sociétés d'IA, et ceux qui sont responsables d'attaquer l'IA et d'alimenter la panique (en surface, ils semblent être "Baptist Will"), tels que les "experts en sécurité de l'IA", les "éthiciens de l'IA" et les "IA chercheurs du risque" qui sont embauchés pour faire des prédictions apocalyptiques.
"En pratique, même lorsque les baptistes sont sincères, ils sont manipulés et utilisés comme couverture par des contrebandiers pour servir leurs propres intérêts", a écrit Mark Anderson dans un long essai. Des choses qui se sont produites.
"S'il existe des obstacles réglementaires aux risques liés à l'IA, alors ces bootleggers (contrebandiers) obtiendront ce qu'ils veulent - un cartel de fournisseurs d'IA soutenu par le gouvernement les protégeant des nouvelles startups et de l'impact de la concurrence open source."
02. Théorie du chômage et "illusion du tarte fixe"
Comme il se méfie de la réglementation, Mark Anderson est naturellement en désaccord avec bon nombre des arguments avancés en faveur de la réglementation. Mais il n'a pas nié la valeur de discussion de certains sujets.
Par exemple, la technologie dévore-t-elle tous les emplois ? L'inégalité des revenus et le débat sur le bouleversement de la société humaine.
** C'est une erreur économique courante de penser que l'activité du marché est un jeu à somme nulle. Autrement dit, supposons qu'il existe un gâteau fixe où une partie ne peut gagner qu'aux dépens de l'autre. **
L'automatisation conduit au chômage, qui est une sorte de "erreur de tarte fixe". Mark Anderson a souligné dans un long article : "C'est-à-dire qu'à un moment donné, la quantité de travail est fixée, soit par des machines, soit par des humains. Si c'est fait par des machines, alors les humains sont au chômage."
mais ce n'est pas la vérité. Pour donner un exemple simple, le propriétaire d'une usine de confection achète un grand nombre de machines. Les machines elles-mêmes nécessitent de la main-d'œuvre pour produire, créant des emplois qui n'existeraient pas autrement.
Après que l'argent de la machine ait été "restitué", le propriétaire de l'usine de confection a réalisé des bénéfices excédentaires en raison de l'avantage de coût. Il existe de nombreuses façons de dépenser cet argent - agrandir l'échelle de l'usine, investir dans la chaîne d'approvisionnement ou acheter une maison, une consommation élevée, peu importe comment elle est dépensée, elle offre des opportunités d'emploi pour d'autres industries.
Bien sûr, l'avantage de coût de l'usine de confection ne durera pas éternellement. Afin d'être compétitifs, les rivaux commenceront également à acheter des machines (afin que les travailleurs de la production de machines aient plus d'opportunités d'emploi). Il y a de plus en plus de manteaux, les prix ont baissé, les usines de confection ne sont plus aussi rentables qu'avant. Lorsque de plus en plus de personnes pourront s'offrir des manteaux à un prix inférieur, ce qui stimulera la consommation, l'industrie du vêtement dans son ensemble emploiera plus de personnes qu'avant l'introduction des machines.
Bien sûr, il est également possible qu'une fois les manteaux bon marché dans une certaine mesure, les consommateurs dépensent l'argent économisé sur d'autres aspects, augmentant ainsi l'emploi dans d'autres industries.
"Lorsque la technologie est appliquée à la production, la productivité augmente également, avec moins d'intrants et plus de production. Le résultat est que les prix des biens et services sont plus bas et nous aurons un pouvoir d'achat supplémentaire pour acheter d'autres choses. Cela augmente la demande, entraînant de nouveaux produits et de nouvelles industries, créant de nouveaux emplois pour les personnes précédemment déplacées par les machines », écrit Mark Anderson.
"Lorsque l'économie de marché fonctionnera correctement et que la technologie sera librement introduite, ce sera un cycle ascendant sans fin. Une économie plus vaste émergera, avec une plus grande prospérité matérielle, plus d'industries, de produits et d'emplois", a écrit Mark Anderson.
Qu'est-ce que cela signifie si tout le travail humain existant est remplacé par des machines ?
"La productivité augmentera à un rythme sans précédent, les biens et services existants deviendront presque gratuits, le pouvoir d'achat des consommateurs augmentera et la nouvelle demande explosera.
Les entrepreneurs créeront une gamme vertigineuse de nouvelles industries, produits et services, et emploieront autant de travailleurs IA et humains que possible pour répondre à toutes les nouvelles demandes.
En supposant que l'IA remplace à nouveau le travail humain, le cycle se répétera, alimentant le développement économique et la croissance de l'emploi, conduisant à une utopie matérielle qu'Adam Smith n'a jamais osé imaginer. "
Les besoins humains sont infinis et l'évolution technologique est un processus de satisfaction continue et de définition des possibilités de ces besoins.
Chaque nouvelle productivité prendra une forme différente, explique Carlota Perez, une économiste qui étudie les changements technologiques et les bulles financières, mais en fin de compte, cela ne signifie pas nécessairement qu'il y aura moins d'emplois dans l'ensemble, mais plutôt que la définition du travail se fait d'une manière ça a changé.
Inversement, si la cohérence logique est strictement respectée, nous ne devrions pas seulement considérer toutes les nouvelles avancées technologiques comme un désastre, mais toutes les avancées technologiques passées devraient également être considérées comme tout aussi terribles.
Si vous pensez que les machines sont l'ennemi, alors vous devriez vouloir revenir en arrière et vous détendre, n'est-ce pas ? En suivant cette logique, nous revenons toujours là où tout a commencé - l'agriculture de subsistance, ne serait-il pas préférable que vous fassiez vos propres vêtements ?
**03. Qui cause l'injustice ? **
Outre les machines qui causent le chômage humain, l'injustice sociale causée par la technologie est un autre argument pour que les gens appellent à la réglementation de l'IA.
"En supposant que l'IA supprime tous les emplois, bons et mauvais. Cela conduirait à une énorme inégalité de richesse, car les propriétaires de l'IA obtiennent toutes les récompenses économiques et la personne moyenne n'obtient rien."
L'explication d'Anderson est simple.
Musk serait-il plus riche s'il ne vendait des voitures qu'aux riches ? Serait-il plus riche que cela s'il ne construisait que des voitures pour lui-même ? Bien sûr que non. Il maximise ses profits en vendant des voitures dans le monde, le plus grand marché.
L'électricité, la radiodiffusion, les ordinateurs, Internet, les téléphones portables et les moteurs de recherche - les fabricants de ces technologies ont abaissé les prix de manière agressive jusqu'à ce qu'ils deviennent abordables pour tous. De même, nous avons déjà accès à l'IA générative de pointe de New Bing, Google Bard, etc. gratuitement ou à faible coût.
Ce n'est pas parce qu'ils sont stupides ou généreux, c'est précisément parce qu'ils sont cupides - élargissant la taille du marché et gagnant plus d'argent. Ainsi, au lieu que la technologie stimule la concentration de la richesse, la technologie finit par donner plus de pouvoir à chacun et capter la majeure partie de cette valeur.
** L'inégalité est en effet un gros problème social, mais elle n'est pas motivée par la technologie, elle découle du fait que nous ne permettons pas à l'IA d'être utilisée pour réduire les inégalités. **Les secteurs de l'économie, en particulier le logement, l'éducation et la santé, ont tendance à faire face à la plus grande résistance à l'adoption de l'IA.
Comme le montre le graphique ci-dessous, la courbe bleue représente les industries qui permettent à l'innovation technologique d'améliorer la qualité tout en faisant baisser les prix des produits, comme l'électronique grand public, l'automobile et l'ameublement. En mars de cette année, Mark Anderson a écrit dans un blog Why AI Won't Cause Unemployment.
Ce graphique montre l'évolution des prix des services dans une douzaine de grands secteurs de l'économie, corrigés de l'inflation.
La section rouge représente les industries qui ne permettent pas l'introduction d'innovations technologiques (faisant ainsi baisser les prix). Vous voyez, les prix de l'éducation, des soins de santé et du logement vont tous à la lune.
"Les industries représentées en rouge sont fortement réglementées par le gouvernement et l'industrie elle-même. Ces industries sont des monopoles, des oligopoles et des cartels avec tous les obstacles au changement que vous pouvez imaginer : réglementation gouvernementale formelle et capture réglementaire, fixation des prix, tarification à la soviétique, licences professionnelles. etc. L'innovation technologique dans ces secteurs est désormais pratiquement interdite.
Nous entrons dans un monde de fragmentation, où un téléviseur à écran plat qui couvre tout un mur coûte 100 $ et un diplôme universitaire de quatre ans coûte 1 million de dollars.
Alors, que se passe-t-il avec le temps ?
Les prix augmentent pour les produits réglementés non technologiques ; les prix baissent pour les produits moins réglementés et axés sur la technologie. Le premier se dilate, le second se rétrécit. À l'extrême, 99 % de l'économie sera un secteur réglementé non technologique, et c'est là que nous nous dirigeons.
04. Supervision de la parole et effet de pente glissante
La peur que la technologie que nous créons se lève et nous détruise est profondément ancrée dans notre culture.
Quant à savoir si ces peurs reposent sur une base rationnelle et dans quelle mesure elles peuvent être distinguées des sectes, la réponse reste ouverte.
Anderson les classe comme un type d'erreur de classification logique - où les éléments d'une catégorie particulière sont présentés comme s'ils appartenaient à une catégorie différente. "L'IA est une machine, comme votre grille-pain, elle ne prend pas vie", a-t-il écrit.
Pourtant, "si les robots tueurs ne nous attrapent pas, les discours haineux et la désinformation le seront également." Vous voyez, le "fantôme" appelant à la réglementation des médias sociaux continue de hanter l'ère de l'IA.
Chaque pays, y compris les États-Unis, rend certains contenus sur les plateformes sociales illégaux. Les exemples incluent la pornographie juvénile et l'incitation à la violence dans le monde réel. Ainsi, toute plate-forme technologique qui facilite ou génère du contenu sera soumise à certaines limitations.
Ceux qui soutiennent la réglementation soutiennent que l'IA générative devrait générer des discours et des idées bénéfiques pour la société, et interdire les discours et les idées générés qui sont nuisibles à la société.
Anderson avertit qu'il y a une "** pente glissante inévitable **" en faisant cela. Le soi-disant effet de pente glissante signifie qu'une fois qu'une mauvaise chose ou un problème commence, il est susceptible de s'aggraver. S'il est arrêté, elle s'intensifiera et les conséquences seront inimaginables.
"Une fois qu'il y a un cadre en place pour limiter les contenus extrêmement mauvais - par exemple, les discours de haine - les agences gouvernementales, les groupes d'activistes et les entités non gouvernementales passent à l'action pour apporter des modifications à tout discours qu'ils jugent une menace pour la société et/ou leur préférences personnelles Censure et répression à grande échelle, même de manière carrément criminelle », a-t-il écrit.
Ce phénomène dure depuis 10 ans sur les réseaux sociaux, et il continue de monter en puissance.
En mars dernier, le comité de rédaction du New York Times a publié un article, America Has a Free Speech Problem. Un sondage Times View / Siena College a révélé que 46% des personnes interrogées ont déclaré se sentir moins libres de parler de politique qu'il y a dix ans. 30% ont dit qu'ils ressentaient la même chose.
Seuls 21% ont déclaré se sentir plus libres, malgré l'expansion spectaculaire des voix sur les places publiques via les médias sociaux au cours de la dernière décennie.
«Lorsque les normes sociétales autour du discours acceptable changent constamment, et lorsque le préjudice n'est pas clairement défini, ces restrictions à la parole peuvent devenir des règles arbitraires aux conséquences disproportionnées», écrivent-ils. prend fin.
Et pour Anderson, se réveiller chaque matin pour voir des dizaines de personnes lui expliquer en détail sur Twitter qu'il est un idiot est plutôt utile :
En débattant avec les autres, vous pouvez construire grossièrement un modèle des méthodes de pensée des autres, et vous pouvez penser aux problèmes de leur point de vue, et votre façon de penser deviendra plus objective et neutre.
Il prévient que ceux qui soutiennent que l'IA générative devrait être alignée sur les valeurs humaines ne représentent qu'une très petite fraction de la population mondiale, "une caractéristique de l'élite côtière américaine, qui comprend de nombreuses personnes qui travaillent et écrivent dans l'industrie technologique".
"Si vous vous opposez à l'imposition d'une moralité de niche sur les médias sociaux et l'IA par le renforcement constant des codes vocaux, alors vous devez également être conscient que la lutte sur ce que l'IA est autorisée à dire/produire sera plus importante que la lutte contre la censure des médias sociaux plus important.
L'IA a le potentiel d'être la couche de contrôle pour tout dans le monde. Comment il est autorisé à fonctionner est probablement plus important que tout.
Vous devez savoir qu'en ce moment, un petit groupe d'ingénieurs sociaux isolés est sous l'ancien prétexte de vous protéger, laissant leur morale déterminer le fonctionnement de l'IA. "
05. Le risque le plus réel et le plus terrifiant
Si aucune des peurs et inquiétudes ci-dessus ne constitue un risque réel, alors quel est le plus grand risque de l'IA ?
À son avis, il existe un dernier risque réel pour l'IA, et peut-être le plus effrayant et le plus grand risque : les États-Unis ne gagnent pas la domination mondiale de l'IA. **
À cette fin, "nous devrions introduire l'IA dans nos économies et nos sociétés aussi rapidement et aussi fort que possible, en maximisant ses avantages pour la productivité économique et le potentiel humain".
À la fin du long article, il a proposé quelques plans simples.
Les grandes entreprises d'IA devraient être autorisées à développer l'IA aussi rapidement et agressivement que possible, mais elles ne devraient pas être autorisées à atteindre la capture réglementaire (les régulateurs deviennent les serviteurs de quelques entités commerciales, une sorte de corruption), et elles ne devraient pas être autorisées pour construire un Un cartel protégé par le gouvernement isolé de la concurrence du marché en revendiquant à tort les risques de l'IA.
Cela maximisera les rendements technologiques et sociaux des incroyables capacités de ces entreprises, fleurons du capitalisme moderne.
2. Les startups d'IA devraient être autorisées à développer l'IA aussi rapidement et agressivement que possible. Ils devraient être autorisés à concourir. Si les startups ne réussissent pas, être sur le marché lui-même continuera à motiver les grandes entreprises à donner le meilleur d'elles-mêmes - de toute façon, notre économie et notre société gagneront.
3. L'IA open source devrait être autorisée à proliférer librement et à concurrencer les grandes entreprises d'IA et les startups. Dans tous les cas, il ne devrait y avoir aucun obstacle réglementaire à l'open source.
Même si l'open source ne tue pas les entreprises, sa large disponibilité sera une aubaine pour les étudiants du monde entier qui souhaitent apprendre à construire et à utiliser l'IA pour faire partie des technologies du futur, et garantira que l'IA est accessible aux tout le monde, peu importe qui ils sont ou combien d'argent ils ont.
4. Les gouvernements, en partenariat avec le secteur privé, utilisent activement l'IA pour maximiser les défenses de la société dans tous les domaines de risque potentiel. L'IA peut être un outil puissant pour résoudre les problèmes, et nous devrions l'adopter.
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Top VCs : le plus grand risque de l'IA est de ne pas la poursuivre aussi fort qu'elle le peut
Auteur : Wu Xin
Récemment, Mark Anderson a publié un article sur le site Web de l'entreprise expliquant pourquoi l'IA sauvera le monde, remettant en question avec audace la rationalité des appels actuels à une réglementation de l'IA et critiquant systématiquement les arguments sur lesquels ces appels sont fondés.
Cet article combine les interviews précédentes de l'auteur, des articles et même les opinions d'économistes et d'hommes politiques qu'il admirait. Il est divisé en cinq parties pour faire une analyse et une interprétation plus approfondies de son contenu principal, aidant les lecteurs à comprendre pourquoi il pense que l'optimisme est toujours le plus sûr Choisissez, et en même temps voyez les risques inhérents au pessimisme et au scepticisme. Ces points de vue peuvent sembler fous à beaucoup de gens, et il est difficile d'y penser de cette façon. Mais comme l'a dit Mark Anderson, en débattant avec les gens, vous pouvez grossièrement construire un modèle de la pensée des autres, et vous pouvez penser aux problèmes de leur point de vue, et votre façon de penser deviendra plus objective et neutre.
Le pessimisme est répandu dans presque toutes les sociétés. ChatGPT a balayé le monde et le PDG d'Open AI, Sam Altman, est apparu à l'audience du Congrès américain, appelant à la réglementation de l'IA.
Il a ensuite signé une déclaration de risque avec Stuart Russell, Geoffrey Hinton, Yoshua Bengio et d'autres.
Bientôt, Musk est également apparu dans une lettre conjointe signée par des milliers de personnes, appelant le laboratoire d'IA à suspendre immédiatement les recherches. À cette époque, Mark Anderson, à la tête de la plus grande société de capital-risque au monde, a16z, se lèvera toujours et deviendra la pom-pom girl qui "chante le contraire".
Il y a un paradoxe au cœur de la culture américaine : en théorie, nous aimons le changement, mais lorsque le changement se matérialise et se manifeste réellement, il est soumis à un contrecoup massif. Je suis très optimiste, surtout quand il s'agit de nouvelles idées. Mark Anderson pense qu'il est probablement la personne la plus optimiste qu'il ait jamais rencontrée. "Depuis au moins 20 ans, si vous pariez sur les optimistes, en général, vous avez raison."
Il a toutes les raisons de le penser. En 1994, Mark Anderson est venu pour la première fois dans la Silicon Valley, a fondé Netscape et a terminé la cotation dans les plus brefs délais.
Anderson, qui était assis pieds nus sur le trône, est apparu plus tard sur la couverture de Time Magazine et est devenu un modèle de la Silicon Valley du mythe de la richesse technologique, attirant d'innombrables retardataires. D'une certaine manière, c'est lui qui a allumé le feu dans la Silicon Valley, et le genre d'optimiste décrit par le physicien quantique américain David Deutsch dans "The Beginning of Infinity", qui espère y parvenir en faisant progresser les connaissances, y compris les conséquences imprévues de un tel progrès. Le pessimisme est différent. Ils seront fiers du respect par leurs enfants de modèles de comportement appropriés et se lamenteront à chaque nouveauté réelle ou imaginaire. Il essaie d'éviter tout ce qui n'est pas confirmé comme sûr.
Très peu de civilisations ont survécu en étant plus prudentes face à l'innovation. Comme l'écrit David Deutsch dans The Beginning of Infinity, en fait, la plupart des civilisations qui ont été détruites ont mis en œuvre avec enthousiasme le principe de précaution (éviter tout ce qui n'est pas connu pour être sûr pour éviter la catastrophe). Tout est resté stable et inchangé au cours des cent dernières années, ce qui ne semble jamais vraiment se produire. Les sceptiques ont toujours tort. Mark Anderson l'a dit aussi.
**01. Réglementation sur l'IA : qui en profite ? Qui est endommagé ? **
Mark Anderson se qualifie lui-même de « accélérationniste de l'IA ». Un croyant qui espère accélérer le processus social lié à l'IA pour résister à la résistance et provoquer un grand changement social sera naturellement plein de doutes quant à l'appel à la réglementation. "Il existe une opinion selon laquelle la réglementation gouvernementale est bien intentionnée, bénigne et correctement mise en œuvre. C'est un mythe. " Mark Anderson a longtemps cru que l'un des maux du système américain était la réglementation. Le gouvernement continue de formuler des lois et des règlements. , de sorte que beaucoup ressemblent à des lois comme "Pas d'alcool vendu le dimanche" et "Les hommes ne sont pas autorisés à manger du kimchi le mardi". L'économiste de la réglementation Bruce Yandle a proposé un concept dans les années 1920 qui a été utilisé pour expliquer les problèmes de réglementation gouvernementale : la théorie des contrebandiers et des baptistes. Par exemple, Yandle estime que le passage de la prohibition, en plus de s'appuyer sur les baptistes (baptistes, dont les antécédents religieux leur font croire que l'alcool a violé la société), repose également sur le soutien des contrebandiers. Ils soutiennent une réglementation accrue par le gouvernement pour réduire la concurrence des marchands légitimes - puisque les consommateurs ne pouvaient pas se saouler sur le marché sous la prohibition, ils se sont naturellement tournés vers les contrebandiers. La théorie des bootleggers et des baptistes souligne que les baptistes fournissent le fondement moral de la soi-disant réglementation (le gouvernement n'a pas à trouver de raisons retentissantes), tandis que les bootleggers persuadent discrètement les politiciens à huis clos (intérêts collaborant), une telle alliance Faites en sorte qu'il soit plus facile pour les politiciens de soutenir les deux groupes. ** La théorie indique également que de telles alliances conduisent à une législation sous-optimale, et bien que les deux groupes soient satisfaits du résultat, il peut être préférable pour la société dans son ensemble de n'avoir aucune législation, ou une législation différente. ** Mark Anderson emprunte cette théorie pour montrer pourquoi la réglementation avec de bons motifs fait souvent de mauvaises choses.
« Souvent, le résultat de ces campagnes de réforme est que les contrebandiers obtiennent ce qu'ils veulent – la capture réglementaire (les régulateurs deviennent les serviteurs de quelques entités commerciales), la concurrence ségréguée, la formation de cartels – dans une question baptiste bien motivée, d'où vient leur volonté de socialisation ? les progrès tournent mal ?", a-t-il écrit dans un essai récent, Why AI Will Save the World.
Dans le domaine de l'intelligence artificielle, les "baptistes" sont ces croyants qui croient vraiment que l'intelligence artificielle détruira les êtres humains. Certains vrais croyants sont même des innovateurs de cette technologie, et ils préconisent activement toutes sortes de restrictions étranges et extrêmes sur l'IA. Les "bootleggers (contrebandiers)" sont des sociétés d'IA, et ceux qui sont responsables d'attaquer l'IA et d'alimenter la panique (en surface, ils semblent être "Baptist Will"), tels que les "experts en sécurité de l'IA", les "éthiciens de l'IA" et les "IA chercheurs du risque" qui sont embauchés pour faire des prédictions apocalyptiques. "En pratique, même lorsque les baptistes sont sincères, ils sont manipulés et utilisés comme couverture par des contrebandiers pour servir leurs propres intérêts", a écrit Mark Anderson dans un long essai. Des choses qui se sont produites. "S'il existe des obstacles réglementaires aux risques liés à l'IA, alors ces bootleggers (contrebandiers) obtiendront ce qu'ils veulent - un cartel de fournisseurs d'IA soutenu par le gouvernement les protégeant des nouvelles startups et de l'impact de la concurrence open source."
02. Théorie du chômage et "illusion du tarte fixe"
Comme il se méfie de la réglementation, Mark Anderson est naturellement en désaccord avec bon nombre des arguments avancés en faveur de la réglementation. Mais il n'a pas nié la valeur de discussion de certains sujets. Par exemple, la technologie dévore-t-elle tous les emplois ? L'inégalité des revenus et le débat sur le bouleversement de la société humaine. ** C'est une erreur économique courante de penser que l'activité du marché est un jeu à somme nulle. Autrement dit, supposons qu'il existe un gâteau fixe où une partie ne peut gagner qu'aux dépens de l'autre. ** L'automatisation conduit au chômage, qui est une sorte de "erreur de tarte fixe". Mark Anderson a souligné dans un long article : "C'est-à-dire qu'à un moment donné, la quantité de travail est fixée, soit par des machines, soit par des humains. Si c'est fait par des machines, alors les humains sont au chômage." mais ce n'est pas la vérité. Pour donner un exemple simple, le propriétaire d'une usine de confection achète un grand nombre de machines. Les machines elles-mêmes nécessitent de la main-d'œuvre pour produire, créant des emplois qui n'existeraient pas autrement. Après que l'argent de la machine ait été "restitué", le propriétaire de l'usine de confection a réalisé des bénéfices excédentaires en raison de l'avantage de coût. Il existe de nombreuses façons de dépenser cet argent - agrandir l'échelle de l'usine, investir dans la chaîne d'approvisionnement ou acheter une maison, une consommation élevée, peu importe comment elle est dépensée, elle offre des opportunités d'emploi pour d'autres industries. Bien sûr, l'avantage de coût de l'usine de confection ne durera pas éternellement. Afin d'être compétitifs, les rivaux commenceront également à acheter des machines (afin que les travailleurs de la production de machines aient plus d'opportunités d'emploi). Il y a de plus en plus de manteaux, les prix ont baissé, les usines de confection ne sont plus aussi rentables qu'avant. Lorsque de plus en plus de personnes pourront s'offrir des manteaux à un prix inférieur, ce qui stimulera la consommation, l'industrie du vêtement dans son ensemble emploiera plus de personnes qu'avant l'introduction des machines. Bien sûr, il est également possible qu'une fois les manteaux bon marché dans une certaine mesure, les consommateurs dépensent l'argent économisé sur d'autres aspects, augmentant ainsi l'emploi dans d'autres industries. "Lorsque la technologie est appliquée à la production, la productivité augmente également, avec moins d'intrants et plus de production. Le résultat est que les prix des biens et services sont plus bas et nous aurons un pouvoir d'achat supplémentaire pour acheter d'autres choses. Cela augmente la demande, entraînant de nouveaux produits et de nouvelles industries, créant de nouveaux emplois pour les personnes précédemment déplacées par les machines », écrit Mark Anderson. "Lorsque l'économie de marché fonctionnera correctement et que la technologie sera librement introduite, ce sera un cycle ascendant sans fin. Une économie plus vaste émergera, avec une plus grande prospérité matérielle, plus d'industries, de produits et d'emplois", a écrit Mark Anderson. Qu'est-ce que cela signifie si tout le travail humain existant est remplacé par des machines ? "La productivité augmentera à un rythme sans précédent, les biens et services existants deviendront presque gratuits, le pouvoir d'achat des consommateurs augmentera et la nouvelle demande explosera.
Les entrepreneurs créeront une gamme vertigineuse de nouvelles industries, produits et services, et emploieront autant de travailleurs IA et humains que possible pour répondre à toutes les nouvelles demandes. En supposant que l'IA remplace à nouveau le travail humain, le cycle se répétera, alimentant le développement économique et la croissance de l'emploi, conduisant à une utopie matérielle qu'Adam Smith n'a jamais osé imaginer. " Les besoins humains sont infinis et l'évolution technologique est un processus de satisfaction continue et de définition des possibilités de ces besoins.
Chaque nouvelle productivité prendra une forme différente, explique Carlota Perez, une économiste qui étudie les changements technologiques et les bulles financières, mais en fin de compte, cela ne signifie pas nécessairement qu'il y aura moins d'emplois dans l'ensemble, mais plutôt que la définition du travail se fait d'une manière ça a changé. Inversement, si la cohérence logique est strictement respectée, nous ne devrions pas seulement considérer toutes les nouvelles avancées technologiques comme un désastre, mais toutes les avancées technologiques passées devraient également être considérées comme tout aussi terribles. Si vous pensez que les machines sont l'ennemi, alors vous devriez vouloir revenir en arrière et vous détendre, n'est-ce pas ? En suivant cette logique, nous revenons toujours là où tout a commencé - l'agriculture de subsistance, ne serait-il pas préférable que vous fassiez vos propres vêtements ?
**03. Qui cause l'injustice ? **
Outre les machines qui causent le chômage humain, l'injustice sociale causée par la technologie est un autre argument pour que les gens appellent à la réglementation de l'IA. "En supposant que l'IA supprime tous les emplois, bons et mauvais. Cela conduirait à une énorme inégalité de richesse, car les propriétaires de l'IA obtiennent toutes les récompenses économiques et la personne moyenne n'obtient rien." L'explication d'Anderson est simple. Musk serait-il plus riche s'il ne vendait des voitures qu'aux riches ? Serait-il plus riche que cela s'il ne construisait que des voitures pour lui-même ? Bien sûr que non. Il maximise ses profits en vendant des voitures dans le monde, le plus grand marché. L'électricité, la radiodiffusion, les ordinateurs, Internet, les téléphones portables et les moteurs de recherche - les fabricants de ces technologies ont abaissé les prix de manière agressive jusqu'à ce qu'ils deviennent abordables pour tous. De même, nous avons déjà accès à l'IA générative de pointe de New Bing, Google Bard, etc. gratuitement ou à faible coût. Ce n'est pas parce qu'ils sont stupides ou généreux, c'est précisément parce qu'ils sont cupides - élargissant la taille du marché et gagnant plus d'argent. Ainsi, au lieu que la technologie stimule la concentration de la richesse, la technologie finit par donner plus de pouvoir à chacun et capter la majeure partie de cette valeur.
** L'inégalité est en effet un gros problème social, mais elle n'est pas motivée par la technologie, elle découle du fait que nous ne permettons pas à l'IA d'être utilisée pour réduire les inégalités. **Les secteurs de l'économie, en particulier le logement, l'éducation et la santé, ont tendance à faire face à la plus grande résistance à l'adoption de l'IA. Comme le montre le graphique ci-dessous, la courbe bleue représente les industries qui permettent à l'innovation technologique d'améliorer la qualité tout en faisant baisser les prix des produits, comme l'électronique grand public, l'automobile et l'ameublement. En mars de cette année, Mark Anderson a écrit dans un blog Why AI Won't Cause Unemployment.
Ce graphique montre l'évolution des prix des services dans une douzaine de grands secteurs de l'économie, corrigés de l'inflation.
La section rouge représente les industries qui ne permettent pas l'introduction d'innovations technologiques (faisant ainsi baisser les prix). Vous voyez, les prix de l'éducation, des soins de santé et du logement vont tous à la lune. "Les industries représentées en rouge sont fortement réglementées par le gouvernement et l'industrie elle-même. Ces industries sont des monopoles, des oligopoles et des cartels avec tous les obstacles au changement que vous pouvez imaginer : réglementation gouvernementale formelle et capture réglementaire, fixation des prix, tarification à la soviétique, licences professionnelles. etc. L'innovation technologique dans ces secteurs est désormais pratiquement interdite.
Nous entrons dans un monde de fragmentation, où un téléviseur à écran plat qui couvre tout un mur coûte 100 $ et un diplôme universitaire de quatre ans coûte 1 million de dollars. Alors, que se passe-t-il avec le temps ? Les prix augmentent pour les produits réglementés non technologiques ; les prix baissent pour les produits moins réglementés et axés sur la technologie. Le premier se dilate, le second se rétrécit. À l'extrême, 99 % de l'économie sera un secteur réglementé non technologique, et c'est là que nous nous dirigeons.
04. Supervision de la parole et effet de pente glissante
La peur que la technologie que nous créons se lève et nous détruise est profondément ancrée dans notre culture. Quant à savoir si ces peurs reposent sur une base rationnelle et dans quelle mesure elles peuvent être distinguées des sectes, la réponse reste ouverte. Anderson les classe comme un type d'erreur de classification logique - où les éléments d'une catégorie particulière sont présentés comme s'ils appartenaient à une catégorie différente. "L'IA est une machine, comme votre grille-pain, elle ne prend pas vie", a-t-il écrit. Pourtant, "si les robots tueurs ne nous attrapent pas, les discours haineux et la désinformation le seront également." Vous voyez, le "fantôme" appelant à la réglementation des médias sociaux continue de hanter l'ère de l'IA. Chaque pays, y compris les États-Unis, rend certains contenus sur les plateformes sociales illégaux. Les exemples incluent la pornographie juvénile et l'incitation à la violence dans le monde réel. Ainsi, toute plate-forme technologique qui facilite ou génère du contenu sera soumise à certaines limitations. Ceux qui soutiennent la réglementation soutiennent que l'IA générative devrait générer des discours et des idées bénéfiques pour la société, et interdire les discours et les idées générés qui sont nuisibles à la société. Anderson avertit qu'il y a une "** pente glissante inévitable **" en faisant cela. Le soi-disant effet de pente glissante signifie qu'une fois qu'une mauvaise chose ou un problème commence, il est susceptible de s'aggraver. S'il est arrêté, elle s'intensifiera et les conséquences seront inimaginables. "Une fois qu'il y a un cadre en place pour limiter les contenus extrêmement mauvais - par exemple, les discours de haine - les agences gouvernementales, les groupes d'activistes et les entités non gouvernementales passent à l'action pour apporter des modifications à tout discours qu'ils jugent une menace pour la société et/ou leur préférences personnelles Censure et répression à grande échelle, même de manière carrément criminelle », a-t-il écrit. Ce phénomène dure depuis 10 ans sur les réseaux sociaux, et il continue de monter en puissance. En mars dernier, le comité de rédaction du New York Times a publié un article, America Has a Free Speech Problem. Un sondage Times View / Siena College a révélé que 46% des personnes interrogées ont déclaré se sentir moins libres de parler de politique qu'il y a dix ans. 30% ont dit qu'ils ressentaient la même chose. Seuls 21% ont déclaré se sentir plus libres, malgré l'expansion spectaculaire des voix sur les places publiques via les médias sociaux au cours de la dernière décennie. «Lorsque les normes sociétales autour du discours acceptable changent constamment, et lorsque le préjudice n'est pas clairement défini, ces restrictions à la parole peuvent devenir des règles arbitraires aux conséquences disproportionnées», écrivent-ils. prend fin. Et pour Anderson, se réveiller chaque matin pour voir des dizaines de personnes lui expliquer en détail sur Twitter qu'il est un idiot est plutôt utile : En débattant avec les autres, vous pouvez construire grossièrement un modèle des méthodes de pensée des autres, et vous pouvez penser aux problèmes de leur point de vue, et votre façon de penser deviendra plus objective et neutre. Il prévient que ceux qui soutiennent que l'IA générative devrait être alignée sur les valeurs humaines ne représentent qu'une très petite fraction de la population mondiale, "une caractéristique de l'élite côtière américaine, qui comprend de nombreuses personnes qui travaillent et écrivent dans l'industrie technologique". "Si vous vous opposez à l'imposition d'une moralité de niche sur les médias sociaux et l'IA par le renforcement constant des codes vocaux, alors vous devez également être conscient que la lutte sur ce que l'IA est autorisée à dire/produire sera plus importante que la lutte contre la censure des médias sociaux plus important. L'IA a le potentiel d'être la couche de contrôle pour tout dans le monde. Comment il est autorisé à fonctionner est probablement plus important que tout. Vous devez savoir qu'en ce moment, un petit groupe d'ingénieurs sociaux isolés est sous l'ancien prétexte de vous protéger, laissant leur morale déterminer le fonctionnement de l'IA. "
05. Le risque le plus réel et le plus terrifiant
Si aucune des peurs et inquiétudes ci-dessus ne constitue un risque réel, alors quel est le plus grand risque de l'IA ? À son avis, il existe un dernier risque réel pour l'IA, et peut-être le plus effrayant et le plus grand risque : les États-Unis ne gagnent pas la domination mondiale de l'IA. ** À cette fin, "nous devrions introduire l'IA dans nos économies et nos sociétés aussi rapidement et aussi fort que possible, en maximisant ses avantages pour la productivité économique et le potentiel humain".
À la fin du long article, il a proposé quelques plans simples.
Cela maximisera les rendements technologiques et sociaux des incroyables capacités de ces entreprises, fleurons du capitalisme moderne. 2. Les startups d'IA devraient être autorisées à développer l'IA aussi rapidement et agressivement que possible. Ils devraient être autorisés à concourir. Si les startups ne réussissent pas, être sur le marché lui-même continuera à motiver les grandes entreprises à donner le meilleur d'elles-mêmes - de toute façon, notre économie et notre société gagneront. 3. L'IA open source devrait être autorisée à proliférer librement et à concurrencer les grandes entreprises d'IA et les startups. Dans tous les cas, il ne devrait y avoir aucun obstacle réglementaire à l'open source.
Même si l'open source ne tue pas les entreprises, sa large disponibilité sera une aubaine pour les étudiants du monde entier qui souhaitent apprendre à construire et à utiliser l'IA pour faire partie des technologies du futur, et garantira que l'IA est accessible aux tout le monde, peu importe qui ils sont ou combien d'argent ils ont. 4. Les gouvernements, en partenariat avec le secteur privé, utilisent activement l'IA pour maximiser les défenses de la société dans tous les domaines de risque potentiel. L'IA peut être un outil puissant pour résoudre les problèmes, et nous devrions l'adopter.