Gần đây, Mark Anderson đã xuất bản một bài báo trên trang web của công ty tại sao AI sẽ cứu thế giới, mạnh dạn đặt câu hỏi về tính hợp lý của các lời kêu gọi hiện tại về quy định AI và chỉ trích một cách có hệ thống các lập luận làm cơ sở cho những lời kêu gọi này.
Bài viết này kết hợp các cuộc phỏng vấn trước đây của tác giả, các bài báo và cả ý kiến của các nhà kinh tế học và chính trị gia mà ông ngưỡng mộ, được chia thành năm phần để phân tích và diễn giải sâu hơn nội dung cốt lõi của nó, giúp người đọc hiểu tại sao ông luôn cho rằng sự lạc quan là lựa chọn an toàn nhất, đồng thời nhìn thấy những rủi ro vốn có trong chủ nghĩa bi quan và chủ nghĩa hoài nghi.
Những quan điểm này có vẻ điên rồ đối với nhiều người và rất khó để nghĩ về chúng theo cách này. Nhưng như Mark Anderson đã nói, bằng cách tranh luận với mọi người, bạn có thể xây dựng một cách đại khái mô hình suy nghĩ của người khác và bạn có thể suy nghĩ về vấn đề từ góc độ của họ, và cách suy nghĩ của bạn sẽ trở nên khách quan và trung lập hơn.
Chủ nghĩa bi quan phổ biến ở hầu hết mọi xã hội.
ChatGPT đã càn quét thế giới và Giám đốc điều hành Open AI Sam Altman đã xuất hiện trong phiên điều trần của Quốc hội Hoa Kỳ, kêu gọi quy định về AI.
Sau đó, anh ấy đã ký một tuyên bố rủi ro với Stuart Russell, Geoffrey Hinton, Yoshua Bengio và những người khác.
Ngay sau đó, Musk cũng xuất hiện trong một lá thư chung có chữ ký của hàng nghìn người, kêu gọi phòng thí nghiệm AI ngay lập tức đình chỉ nghiên cứu.
Lúc này, Mark Anderson, người điều hành công ty đầu tư mạo hiểm hàng đầu thế giới a16z, sẽ luôn sát cánh và trở thành người cổ vũ "hát ngược".
Có một nghịch lý ở trung tâm của nền văn hóa Mỹ: Về lý thuyết, chúng ta yêu thích sự thay đổi, nhưng khi sự thay đổi thực sự thành hiện thực và thể hiện chính nó, nó phải chịu phản ứng dữ dội.
Tôi rất lạc quan, đặc biệt là khi có những ý tưởng mới. Mark Anderson cho rằng anh ấy có lẽ là người lạc quan nhất mà anh ấy từng gặp. "Trong ít nhất 20 năm qua, nếu bạn đặt cược vào những người lạc quan, nói chung, bạn đúng."
Anh ấy có mọi lý do để nghĩ như vậy. Năm 1994, Mark Anderson lần đầu tiên đến Thung lũng Silicon, thành lập Netscape và hoàn thành việc niêm yết trong thời gian ngắn nhất.
Anderson, người ngồi chân trần trên ngai vàng, sau đó xuất hiện trên trang bìa của Tạp chí Time và trở thành hình mẫu huyền thoại về sự giàu có của Thung lũng Silicon, thu hút vô số người đến sau.
Theo một cách nào đó, anh ấy là người đã thắp lên ngọn lửa ở Thung lũng Silicon và là kiểu người lạc quan được mô tả bởi nhà vật lý lượng tử người Mỹ David Deutsch trong "Sự khởi đầu của Vô cực", người hy vọng đạt được bằng cách tạo ra tiến bộ tri thức, bao gồm cả những hậu quả không lường trước được của tiến bộ như vậy.
Bi quan là khác nhau. Họ sẽ tự hào về việc con cái tuân thủ các mẫu hành vi phù hợp và than thở về mọi điều mới lạ có thật hoặc tưởng tượng. Nó cố gắng tránh mọi thứ không được xác nhận là an toàn.
Rất ít nền văn minh tồn tại được bằng cách thận trọng hơn về đổi mới. Như David Deutsch viết trong The Beginning of Infinity, trên thực tế, hầu hết các nền văn minh bị hủy diệt đều nhiệt tình thực hiện nguyên tắc phòng ngừa (tránh mọi thứ không rõ là an toàn để tránh thảm họa).
Mọi thứ đã ổn định và không thay đổi trong hàng trăm năm qua, điều này dường như chưa bao giờ thực sự xảy ra. Những người hoài nghi luôn sai. Mark Anderson cũng nói thế.
**01.Quy định AI: Ai được lợi? Ai là người bị thiệt hại? **
Mark Anderson tự gọi mình là "chuyên gia tăng tốc AI".
Một tín đồ hy vọng đẩy nhanh quá trình xã hội liên quan đến AI để chống lại sự phản kháng và mang lại sự thay đổi xã hội to lớn đương nhiên sẽ đầy nghi ngờ về lời kêu gọi điều tiết.
Mark Anderson từ lâu đã tin rằng một trong những căn bệnh của hệ thống Mỹ là quy định. , đến nỗi nhiều luật tương tự như "Không bán rượu vào Chủ nhật" và "Đàn ông không được phép ăn kim chi vào thứ Ba".
Nhà kinh tế học quản lý Bruce Yandle đã đưa ra một khái niệm vào những năm 1920 được sử dụng để giải thích các vấn đề với quy định của chính phủ: Lý thuyết Bootleggers và Baptists.
Ví dụ, Yandle tin rằng việc thông qua Lệnh cấm, ngoài việc dựa vào những người theo đạo Báp-tít (Những người theo đạo Báp-tít, những người có nền tảng tôn giáo khiến họ tin rằng rượu đã vi phạm xã hội), còn dựa vào sự hỗ trợ đằng sau những kẻ buôn lậu. Họ ủng hộ việc chính phủ tăng cường quy định để giảm bớt sự cạnh tranh từ những người buôn bán hợp pháp—vì người tiêu dùng không thể say xỉn ở chợ theo Lệnh cấm, nên họ tự nhiên chuyển sang buôn rượu lậu.
Lý thuyết về những người buôn lậu và những người theo đạo Báp-tít chỉ ra rằng những người theo đạo Báp-tít cung cấp nền tảng đạo đức cao cho cái gọi là quy định (chính phủ không cần phải tìm những lý do nghe có vẻ cao siêu), trong khi những người buôn lậu lặng lẽ thuyết phục các chính trị gia đằng sau cánh cửa đóng kín (các lợi ích hợp tác), chẳng hạn như một liên minh Giúp các chính trị gia hỗ trợ cả hai nhóm dễ dàng hơn.
** Lý thuyết cũng nói rằng các liên minh như vậy dẫn đến luật dưới mức tối ưu và trong khi cả hai nhóm đều hài lòng với kết quả, thì có thể tốt hơn cho toàn xã hội nếu không có luật hoặc luật khác. **
Mark Anderson mượn lý thuyết này để chỉ ra tại sao quy định với một số động cơ tốt thường gây ra những điều xấu.
“Thông thường, kết quả của các chiến dịch cải cách như vậy là những kẻ buôn lậu có được thứ họ muốn—nắm bắt cơ quan quản lý (các cơ quan quản lý trở thành người hầu của một số tổ chức thương mại), cạnh tranh tách biệt, hình thành băng đảng—trong một câu hỏi có động cơ tốt của những người theo đạo Baptists, họ đã thúc đẩy xã hội ở đâu? tiến bộ không đạt được?" ông đã viết trong một bài tiểu luận gần đây, Tại sao AI sẽ cứu thế giới.
Trong lĩnh vực trí tuệ nhân tạo, "Những người theo chủ nghĩa rửa tội" là những tín đồ thực sự tin rằng trí tuệ nhân tạo sẽ hủy diệt loài người, một số tín đồ chân chính thậm chí còn là nhà sáng tạo của công nghệ này, họ tích cực ủng hộ các loại hạn chế kỳ lạ và cực đoan đối với AI.
"Bootleggers (kẻ buôn lậu)" là các công ty AI và những người chịu trách nhiệm tấn công AI và gây ra sự hoảng loạn (nhìn bề ngoài, họ có vẻ là "Ý chí của người rửa tội"), chẳng hạn như "chuyên gia bảo mật AI", "nhà đạo đức học AI" và "AI các nhà nghiên cứu rủi ro", những người được thuê để thực hiện một số dự đoán về ngày tận thế.
Mark Anderson đã viết trong một bài luận dài: “Trong thực tế, ngay cả khi những người theo đạo Báp-tít chân thành, họ vẫn bị những kẻ buôn lậu lợi dụng và lợi dụng làm vỏ bọc để phục vụ lợi ích của chính họ.
“Nếu có các rào cản pháp lý đối với rủi ro AI, thì những kẻ buôn lậu (buôn lậu) này sẽ có được thứ họ muốn - một nhóm các nhà cung cấp AI do chính phủ hậu thuẫn bảo vệ họ khỏi các công ty khởi nghiệp mới và tác động của cạnh tranh nguồn mở.”
02. Lý thuyết thất nghiệp và "Ngụy biện bánh cố định"
Vì anh ta cảnh giác với quy định, Mark Anderson đương nhiên không đồng ý với nhiều lập luận đưa ra để ủng hộ quy định. Nhưng ông không phủ nhận giá trị thảo luận của một số chủ đề.
Chẳng hạn như, có phải công nghệ đang ăn hết việc làm, bất bình đẳng thu nhập và cuộc tranh luận về việc thúc đẩy xã hội loài người.
** Sai lầm phổ biến về kinh tế khi nghĩ rằng hoạt động thị trường là một trò chơi có tổng bằng không. Nghĩa là, giả sử có một chiếc bánh cố định trong đó một bên chỉ có thể đạt được bằng cách gây thiệt hại cho bên kia. **
Tự động hóa dẫn đến thất nghiệp, đây là một dạng "ngụy biện chiếc bánh cố định". Mark Anderson đã chỉ ra trong một bài báo dài, "Tức là tại bất kỳ thời điểm nào, lượng lao động là cố định, hoặc do máy móc hoặc do con người. Nếu do máy móc làm thì con người thất nghiệp."
nhưng nó không phải là sự thật. Lấy một ví dụ đơn giản, chủ một xưởng may mua một số lượng lớn máy móc. Bản thân các máy móc đòi hỏi lao động để sản xuất, tạo ra những công việc không tồn tại.
Sau khi tiền mua máy được “trả lại”, chủ xưởng may lãi vượt trội nhờ lợi thế về giá thành. Có nhiều cách để tiêu số tiền này - mở rộng quy mô nhà máy, đầu tư vào chuỗi cung ứng hoặc mua nhà, mức tiêu thụ cao, bất kể là tiêu như thế nào, đều mang lại cơ hội việc làm cho các ngành khác.
Tất nhiên, lợi thế về chi phí của xưởng may sẽ không tồn tại mãi mãi. Để cạnh tranh, các đối thủ cũng sẽ bắt đầu mua máy móc (để công nhân sản xuất máy móc có nhiều cơ hội việc làm hơn). Áo khoác ngày càng nhiều, giá giảm, các xưởng may không còn lãi như trước. Khi ngày càng nhiều người có thể mua áo khoác với giá thấp hơn, kích thích tiêu dùng, toàn bộ ngành may mặc sẽ sử dụng nhiều lao động hơn so với trước khi máy móc ra đời.
Tất nhiên, cũng có thể sau khi áo khoác rẻ đến một mức độ nhất định, người tiêu dùng sẽ chi số tiền tiết kiệm được cho các khía cạnh khác, do đó làm tăng việc làm trong các ngành khác.
"Khi công nghệ được áp dụng vào sản xuất, năng suất cũng tăng lên, đầu vào giảm và đầu ra tăng. Kết quả là giá hàng hóa và dịch vụ được hạ xuống, và chúng ta sẽ có thêm khả năng chi tiêu để mua những thứ khác. Điều này làm tăng nhu cầu, thúc đẩy nhu cầu mới Mark Anderson viết.
"Khi nền kinh tế thị trường vận hành bình thường và công nghệ được giới thiệu tự do, đó sẽ là một chu kỳ đi lên không bao giờ kết thúc. Một nền kinh tế lớn hơn sẽ xuất hiện, với sự thịnh vượng vật chất cao hơn, nhiều ngành công nghiệp, sản phẩm và việc làm hơn", Mark Anderson viết.
Điều đó có nghĩa là gì nếu tất cả sức lao động của con người hiện có được thay thế bằng máy móc?
"Năng suất sẽ tăng với tốc độ chưa từng có, hàng hóa và dịch vụ hiện có sẽ gần như miễn phí về giá, sức mua của người tiêu dùng sẽ tăng cao và nhu cầu mới sẽ bùng nổ.
Các doanh nhân sẽ tạo ra một loạt các ngành công nghiệp, sản phẩm và dịch vụ mới, đồng thời sử dụng càng nhiều nhân công AI và con người càng tốt để đáp ứng mọi nhu cầu mới.
Giả sử AI một lần nữa thay thế sức lao động của con người, chu kỳ sẽ lặp lại, thúc đẩy phát triển kinh tế và tăng trưởng việc làm, dẫn đến một điều không tưởng về vật chất mà Adam Smith không bao giờ dám tưởng tượng. "
Nhu cầu của con người là vô tận, và sự phát triển công nghệ là một quá trình liên tục thỏa mãn và xác định khả năng của những nhu cầu này.
Carlota Perez, một nhà kinh tế nghiên cứu về sự thay đổi công nghệ và bong bóng tài chính, cho biết mỗi năng suất mới sẽ có một hình thức khác nhau, nhưng cuối cùng thì điều đó không nhất thiết có nghĩa là sẽ có ít việc làm hơn, mà là định nghĩa về công việc diễn ra theo một cách nào đó. điều đó đã thay đổi.
Ngược lại, nếu tuân thủ nghiêm ngặt tính nhất quán logic, chúng ta không chỉ coi tất cả những tiến bộ công nghệ mới là thảm họa, mà tất cả những tiến bộ công nghệ trong quá khứ cũng nên được coi là khủng khiếp như nhau.
Nếu bạn nghĩ máy móc là kẻ thù, thì bạn nên quay lại và thư giãn, phải không? Theo logic này, chúng ta tiếp tục quay trở lại nơi tất cả bắt đầu - làm nông nghiệp tự cung tự cấp, chẳng phải sẽ tốt hơn nếu bạn tự may quần áo sao?
**03 Ai gây oan? **
Bên cạnh việc máy móc khiến con người thất nghiệp, bất công xã hội do công nghệ gây ra cũng là một lý lẽ khác để người ta kêu gọi điều tiết AI.
"Giả sử AI lấy đi tất cả các công việc, tốt và xấu. Điều này sẽ dẫn đến sự bất bình đẳng lớn về tài sản, vì những người sở hữu AI nhận được tất cả các phần thưởng kinh tế và người bình thường không nhận được gì."
Lời giải thích của Anderson cho điều này rất đơn giản.
Musk sẽ giàu hơn nếu chỉ bán ô tô cho người giàu? Anh ta sẽ giàu hơn thế này nếu anh ta chỉ chế tạo ô tô cho chính mình? dĩ nhiên là không. Anh ta tối đa hóa lợi nhuận của mình bằng cách bán ô tô ra thế giới – thị trường lớn nhất.
Điện, phát thanh truyền hình, máy tính, Internet, điện thoại di động và công cụ tìm kiếm—các nhà sản xuất những công nghệ này đã mạnh tay hạ giá cho đến khi chúng trở nên hợp túi tiền của tất cả mọi người. Tương tự như vậy, chúng tôi đã có quyền truy cập vào AI sáng tạo tiên tiến nhất từ New Bing, Google Bard, v.v. miễn phí hoặc với chi phí thấp.
Không phải vì họ ngu ngốc hay hào phóng, mà chính xác là vì họ tham lam - mở rộng quy mô thị trường và kiếm được nhiều tiền hơn. Vì vậy, thay vì công nghệ thúc đẩy sự tập trung của cải, công nghệ cuối cùng lại trao quyền cho mọi người nhiều hơn và nắm bắt phần lớn giá trị đó.
**Bất bình đẳng thực sự là một vấn đề xã hội lớn, nhưng nó không phải do công nghệ thúc đẩy, nó bắt nguồn từ việc chúng ta không cho phép sử dụng AI để giảm bất bình đẳng. **Các lĩnh vực của nền kinh tế, đặc biệt là nhà ở, giáo dục và chăm sóc sức khỏe, có xu hướng đối mặt với lực cản lớn nhất đối với việc áp dụng AI.
Như thể hiện trong biểu đồ bên dưới, đường cong màu xanh biểu thị các ngành cho phép đổi mới công nghệ để cải thiện chất lượng đồng thời giảm giá sản phẩm, chẳng hạn như điện tử tiêu dùng, ô tô và trang trí nội thất gia đình. Vào tháng 3 năm nay, Mark Anderson đã viết trên blog Tại sao AI không gây ra thất nghiệp.
Biểu đồ này cho thấy những thay đổi về giá dịch vụ trong hàng chục lĩnh vực chính của nền kinh tế, được điều chỉnh theo lạm phát.
Phần màu đỏ đại diện cho các ngành không cho phép áp dụng đổi mới công nghệ (do đó làm giảm giá). Bạn thấy đấy, giá giáo dục, chăm sóc sức khỏe và nhà ở đều đang tăng lên.
"Các ngành có màu đỏ được quản lý chặt chẽ bởi chính phủ và chính ngành. Những ngành này là độc quyền, độc quyền nhóm và cartel với mọi trở ngại để thay đổi mà bạn có thể tưởng tượng: quy định chính thức của chính phủ và nắm bắt quy định, ấn định giá, định giá kiểu Xô Viết, cấp phép nghề nghiệp v.v. Đổi mới công nghệ trong các lĩnh vực này hiện nay trên thực tế đã bị cấm.”
Chúng ta đang bước vào một thế giới của sự phân mảnh—nơi một chiếc TV màn hình phẳng bao phủ toàn bộ bức tường có giá 100 đô la và bằng đại học bốn năm có giá 1 triệu đô la.
Vì vậy, những gì xảy ra theo thời gian?
Giá tăng đối với các sản phẩm được quản lý, phi công nghệ; giá giảm đối với các sản phẩm ít được quản lý, dựa trên công nghệ. Cái trước mở rộng, cái sau co lại. Cuối cùng, 99% nền kinh tế sẽ là khu vực phi công nghệ được quản lý, đó là nơi chúng tôi đang hướng tới.
04. Giám sát giọng nói và hiệu ứng dốc trượt
Nỗi sợ hãi rằng công nghệ chúng ta tạo ra sẽ trỗi dậy và hủy diệt chúng ta đã ăn sâu vào văn hóa của chúng ta.
Về việc liệu những nỗi sợ hãi như vậy có dựa trên bất kỳ cơ sở hợp lý nào hay không và chúng có thể được phân biệt với các giáo phái ở mức độ nào, câu trả lời vẫn còn bỏ ngỏ.
Anderson phân loại chúng như một kiểu phân loại sai logic—trong đó những thứ thuộc một danh mục cụ thể được trình bày như thể chúng thuộc về một danh mục khác. "AI là một cỗ máy, giống như máy nướng bánh mì của bạn, nó không hoạt động," ông viết.
Tuy nhiên, "nếu các bot giết người không bắt được chúng ta, thì ngôn từ kích động thù địch và thông tin sai lệch sẽ phát triển." Bạn thấy đấy, "bóng ma" kêu gọi quản lý mạng xã hội tiếp tục ám ảnh thời đại của AI.
Mọi quốc gia, kể cả Hoa Kỳ, đều coi một số nội dung nhất định trên các nền tảng xã hội là bất hợp pháp. Ví dụ bao gồm nội dung khiêu dâm trẻ em và kích động bạo lực trong thế giới thực. Do đó, bất kỳ nền tảng công nghệ nào hỗ trợ hoặc tạo nội dung sẽ phải chịu một số hạn chế.
Những người ủng hộ quy định lập luận rằng AI tổng quát nên tạo ra lời nói và ý tưởng có lợi cho xã hội, đồng thời cấm những lời nói và ý tưởng được tạo ra có hại cho xã hội.
Anderson cảnh báo rằng sẽ có một "sự trượt dốc không thể tránh khỏi" khi làm như vậy. Cái gọi là hiệu ứng dốc trượt có nghĩa là một khi điều tồi tệ hoặc vấn đề bắt đầu, nó có khả năng trở nên ngày càng tồi tệ hơn. Nếu nó bị dừng lại, nó sẽ tăng cường và hậu quả sẽ không thể tưởng tượng được.
“Một khi đã có khuôn khổ để hạn chế nội dung cực kỳ xấu—ví dụ: ngôn từ kích động thù địch—các cơ quan chính phủ, các nhóm hoạt động và các tổ chức phi chính phủ bắt tay vào hành động để thay đổi bất kỳ ngôn từ nào mà họ cho là mối đe dọa đối với xã hội và/hoặc của họ. kiểm duyệt và đàn áp trên quy mô lớn, thậm chí theo những cách hoàn toàn tội phạm,” ông viết.
Hiện tượng này đã diễn ra được 10 năm trên mạng xã hội và vẫn không ngừng nóng lên.
Tháng 3 năm ngoái, ban biên tập tờ New York Times đã đăng một bài báo, Nước Mỹ có vấn đề về tự do ngôn luận. Một cuộc thăm dò của Times View/Siena College cho thấy 46% số người được hỏi cho biết họ cảm thấy ít tự do hơn khi nói về chính trị so với một thập kỷ trước. 30% cho biết họ cũng cảm thấy như vậy.
Chỉ 21% cho biết họ cảm thấy tự do hơn, bất chấp sự mở rộng đáng kể tiếng nói tại các quảng trường công cộng thông qua mạng xã hội trong thập kỷ qua.
Họ viết: “Khi các chuẩn mực xã hội xung quanh lời nói có thể chấp nhận được thay đổi liên tục và khi tác hại không được xác định rõ ràng, những hạn chế này đối với lời nói có thể trở thành các quy tắc độc đoán với những hậu quả không tương xứng”. kết thúc.
Và đối với Anderson, mỗi sáng thức dậy thấy hàng chục người giải thích chi tiết cho anh ấy trên Twitter rằng anh ấy là một thằng ngốc khá hữu ích:
Bằng cách tranh luận với người khác, bạn có thể xây dựng một cách đại khái mô hình phương pháp suy nghĩ của người khác, và bạn có thể suy nghĩ về vấn đề từ góc độ của họ, và cách suy nghĩ của bạn sẽ trở nên khách quan và trung lập hơn.
Ông cảnh báo rằng những người tranh luận rằng trí tuệ nhân tạo nên phù hợp với các giá trị con người chỉ là một phần rất nhỏ trong dân số toàn cầu, “một đặc điểm của giới tinh hoa ven biển của Mỹ, bao gồm nhiều người làm việc và viết lách trong ngành công nghệ”.
"Nếu bạn phản đối việc áp đặt đạo đức thích hợp trên mạng xã hội và AI thông qua việc liên tục củng cố mã giọng nói, thì bạn cũng nên lưu ý rằng cuộc chiến về những gì AI được phép nói/sản xuất sẽ lớn hơn cuộc chiến kiểm duyệt mạng xã hội nhiều hơn quan trọng.
AI có tiềm năng trở thành lớp kiểm soát mọi thứ trên thế giới. Làm thế nào nó được phép làm việc có lẽ quan trọng hơn bất cứ điều gì.
Bạn nên lưu ý rằng hiện tại, một nhóm nhỏ các kỹ sư xã hội bị cô lập đang đội lốt cổ xưa để bảo vệ bạn, để đạo đức của họ quyết định cách thức hoạt động của AI. "
05. Rủi ro thực sự và đáng sợ nhất
Nếu không có nỗi sợ hãi và lo lắng nào ở trên là rủi ro thực sự, thì rủi ro lớn nhất của AI là gì?
Theo quan điểm của ông, có một rủi ro cuối cùng và thực sự đối với AI, và có thể là rủi ro lớn nhất, đáng sợ nhất: Hoa Kỳ không giành được vị trí thống trị AI toàn cầu. **
Để đạt được mục tiêu đó, “chúng ta nên thúc đẩy AI vào các nền kinh tế và xã hội của chúng ta càng nhanh và càng nhiều càng tốt, tối đa hóa lợi ích của nó đối với năng suất kinh tế và tiềm năng của con người”.
Ở cuối bài viết dài, anh ấy đề xuất một vài kế hoạch đơn giản.
Các công ty AI lớn nên được phép phát triển AI nhanh chóng và mạnh mẽ nhất có thể, nhưng không được phép để họ nắm bắt được quy định (các cơ quan quản lý trở thành người hầu của một số thực thể thương mại, một loại tham nhũng) và họ không được phép để xây dựng một tập đoàn được chính phủ bảo vệ cách ly khỏi sự cạnh tranh trên thị trường bằng cách tuyên bố sai sự thật về rủi ro của AI.
Điều này sẽ tối đa hóa lợi nhuận về công nghệ và xã hội đối với khả năng đáng kinh ngạc của các công ty này, những viên ngọc quý của chủ nghĩa tư bản hiện đại.
2. Các công ty khởi nghiệp về AI nên được phép phát triển AI nhanh và tích cực nhất có thể. Họ nên được phép cạnh tranh. Nếu các công ty khởi nghiệp không thành công, thì bản thân việc có mặt trên thị trường sẽ tiếp tục thúc đẩy các công ty lớn nỗ lực hết mình -- dù bằng cách nào thì nền kinh tế và xã hội của chúng ta cũng sẽ thắng.
3. Trí tuệ nhân tạo mã nguồn mở nên được phép sinh sôi nảy nở tự do và cạnh tranh với các công ty khởi nghiệp và công ty trí tuệ nhân tạo lớn. Trong mọi trường hợp, không nên có bất kỳ rào cản pháp lý nào đối với nguồn mở.
Ngay cả khi nguồn mở không giết chết các công ty, tính sẵn có rộng rãi của nó sẽ là một lợi ích cho sinh viên trên toàn thế giới, những người muốn học cách xây dựng và sử dụng AI để trở thành một phần của công nghệ trong tương lai và sẽ đảm bảo rằng AI có thể truy cập được tất cả mọi người, bất kể họ là ai hay họ có bao nhiêu tiền.
4. Các chính phủ, hợp tác với khu vực tư nhân, tích cực sử dụng AI để tối đa hóa khả năng phòng vệ của xã hội trong mọi lĩnh vực rủi ro tiềm ẩn. AI có thể là một công cụ mạnh mẽ để giải quyết vấn đề và chúng ta nên nắm lấy nó.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
1 thích
Phần thưởng
1
1
Chia sẻ
Bình luận
0/400
ChongXiLeYe
· 2023-06-15 07:25
Quan điểm là rất tốt, hỗ trợ, cho bạn một ngón tay cái lên!
Các VC hàng đầu: Rủi ro lớn nhất của AI là không theo đuổi nó hết sức có thể
Tác giả: Ngô Tín
Gần đây, Mark Anderson đã xuất bản một bài báo trên trang web của công ty tại sao AI sẽ cứu thế giới, mạnh dạn đặt câu hỏi về tính hợp lý của các lời kêu gọi hiện tại về quy định AI và chỉ trích một cách có hệ thống các lập luận làm cơ sở cho những lời kêu gọi này.
Bài viết này kết hợp các cuộc phỏng vấn trước đây của tác giả, các bài báo và cả ý kiến của các nhà kinh tế học và chính trị gia mà ông ngưỡng mộ, được chia thành năm phần để phân tích và diễn giải sâu hơn nội dung cốt lõi của nó, giúp người đọc hiểu tại sao ông luôn cho rằng sự lạc quan là lựa chọn an toàn nhất, đồng thời nhìn thấy những rủi ro vốn có trong chủ nghĩa bi quan và chủ nghĩa hoài nghi. Những quan điểm này có vẻ điên rồ đối với nhiều người và rất khó để nghĩ về chúng theo cách này. Nhưng như Mark Anderson đã nói, bằng cách tranh luận với mọi người, bạn có thể xây dựng một cách đại khái mô hình suy nghĩ của người khác và bạn có thể suy nghĩ về vấn đề từ góc độ của họ, và cách suy nghĩ của bạn sẽ trở nên khách quan và trung lập hơn.
Chủ nghĩa bi quan phổ biến ở hầu hết mọi xã hội. ChatGPT đã càn quét thế giới và Giám đốc điều hành Open AI Sam Altman đã xuất hiện trong phiên điều trần của Quốc hội Hoa Kỳ, kêu gọi quy định về AI.
Sau đó, anh ấy đã ký một tuyên bố rủi ro với Stuart Russell, Geoffrey Hinton, Yoshua Bengio và những người khác.
Ngay sau đó, Musk cũng xuất hiện trong một lá thư chung có chữ ký của hàng nghìn người, kêu gọi phòng thí nghiệm AI ngay lập tức đình chỉ nghiên cứu. Lúc này, Mark Anderson, người điều hành công ty đầu tư mạo hiểm hàng đầu thế giới a16z, sẽ luôn sát cánh và trở thành người cổ vũ "hát ngược".
Có một nghịch lý ở trung tâm của nền văn hóa Mỹ: Về lý thuyết, chúng ta yêu thích sự thay đổi, nhưng khi sự thay đổi thực sự thành hiện thực và thể hiện chính nó, nó phải chịu phản ứng dữ dội. Tôi rất lạc quan, đặc biệt là khi có những ý tưởng mới. Mark Anderson cho rằng anh ấy có lẽ là người lạc quan nhất mà anh ấy từng gặp. "Trong ít nhất 20 năm qua, nếu bạn đặt cược vào những người lạc quan, nói chung, bạn đúng."
Anh ấy có mọi lý do để nghĩ như vậy. Năm 1994, Mark Anderson lần đầu tiên đến Thung lũng Silicon, thành lập Netscape và hoàn thành việc niêm yết trong thời gian ngắn nhất.
Anderson, người ngồi chân trần trên ngai vàng, sau đó xuất hiện trên trang bìa của Tạp chí Time và trở thành hình mẫu huyền thoại về sự giàu có của Thung lũng Silicon, thu hút vô số người đến sau. Theo một cách nào đó, anh ấy là người đã thắp lên ngọn lửa ở Thung lũng Silicon và là kiểu người lạc quan được mô tả bởi nhà vật lý lượng tử người Mỹ David Deutsch trong "Sự khởi đầu của Vô cực", người hy vọng đạt được bằng cách tạo ra tiến bộ tri thức, bao gồm cả những hậu quả không lường trước được của tiến bộ như vậy. Bi quan là khác nhau. Họ sẽ tự hào về việc con cái tuân thủ các mẫu hành vi phù hợp và than thở về mọi điều mới lạ có thật hoặc tưởng tượng. Nó cố gắng tránh mọi thứ không được xác nhận là an toàn.
Rất ít nền văn minh tồn tại được bằng cách thận trọng hơn về đổi mới. Như David Deutsch viết trong The Beginning of Infinity, trên thực tế, hầu hết các nền văn minh bị hủy diệt đều nhiệt tình thực hiện nguyên tắc phòng ngừa (tránh mọi thứ không rõ là an toàn để tránh thảm họa). Mọi thứ đã ổn định và không thay đổi trong hàng trăm năm qua, điều này dường như chưa bao giờ thực sự xảy ra. Những người hoài nghi luôn sai. Mark Anderson cũng nói thế.
**01.Quy định AI: Ai được lợi? Ai là người bị thiệt hại? **
Mark Anderson tự gọi mình là "chuyên gia tăng tốc AI". Một tín đồ hy vọng đẩy nhanh quá trình xã hội liên quan đến AI để chống lại sự phản kháng và mang lại sự thay đổi xã hội to lớn đương nhiên sẽ đầy nghi ngờ về lời kêu gọi điều tiết. Mark Anderson từ lâu đã tin rằng một trong những căn bệnh của hệ thống Mỹ là quy định. , đến nỗi nhiều luật tương tự như "Không bán rượu vào Chủ nhật" và "Đàn ông không được phép ăn kim chi vào thứ Ba". Nhà kinh tế học quản lý Bruce Yandle đã đưa ra một khái niệm vào những năm 1920 được sử dụng để giải thích các vấn đề với quy định của chính phủ: Lý thuyết Bootleggers và Baptists. Ví dụ, Yandle tin rằng việc thông qua Lệnh cấm, ngoài việc dựa vào những người theo đạo Báp-tít (Những người theo đạo Báp-tít, những người có nền tảng tôn giáo khiến họ tin rằng rượu đã vi phạm xã hội), còn dựa vào sự hỗ trợ đằng sau những kẻ buôn lậu. Họ ủng hộ việc chính phủ tăng cường quy định để giảm bớt sự cạnh tranh từ những người buôn bán hợp pháp—vì người tiêu dùng không thể say xỉn ở chợ theo Lệnh cấm, nên họ tự nhiên chuyển sang buôn rượu lậu. Lý thuyết về những người buôn lậu và những người theo đạo Báp-tít chỉ ra rằng những người theo đạo Báp-tít cung cấp nền tảng đạo đức cao cho cái gọi là quy định (chính phủ không cần phải tìm những lý do nghe có vẻ cao siêu), trong khi những người buôn lậu lặng lẽ thuyết phục các chính trị gia đằng sau cánh cửa đóng kín (các lợi ích hợp tác), chẳng hạn như một liên minh Giúp các chính trị gia hỗ trợ cả hai nhóm dễ dàng hơn. ** Lý thuyết cũng nói rằng các liên minh như vậy dẫn đến luật dưới mức tối ưu và trong khi cả hai nhóm đều hài lòng với kết quả, thì có thể tốt hơn cho toàn xã hội nếu không có luật hoặc luật khác. ** Mark Anderson mượn lý thuyết này để chỉ ra tại sao quy định với một số động cơ tốt thường gây ra những điều xấu.
“Thông thường, kết quả của các chiến dịch cải cách như vậy là những kẻ buôn lậu có được thứ họ muốn—nắm bắt cơ quan quản lý (các cơ quan quản lý trở thành người hầu của một số tổ chức thương mại), cạnh tranh tách biệt, hình thành băng đảng—trong một câu hỏi có động cơ tốt của những người theo đạo Baptists, họ đã thúc đẩy xã hội ở đâu? tiến bộ không đạt được?" ông đã viết trong một bài tiểu luận gần đây, Tại sao AI sẽ cứu thế giới.
Trong lĩnh vực trí tuệ nhân tạo, "Những người theo chủ nghĩa rửa tội" là những tín đồ thực sự tin rằng trí tuệ nhân tạo sẽ hủy diệt loài người, một số tín đồ chân chính thậm chí còn là nhà sáng tạo của công nghệ này, họ tích cực ủng hộ các loại hạn chế kỳ lạ và cực đoan đối với AI. "Bootleggers (kẻ buôn lậu)" là các công ty AI và những người chịu trách nhiệm tấn công AI và gây ra sự hoảng loạn (nhìn bề ngoài, họ có vẻ là "Ý chí của người rửa tội"), chẳng hạn như "chuyên gia bảo mật AI", "nhà đạo đức học AI" và "AI các nhà nghiên cứu rủi ro", những người được thuê để thực hiện một số dự đoán về ngày tận thế. Mark Anderson đã viết trong một bài luận dài: “Trong thực tế, ngay cả khi những người theo đạo Báp-tít chân thành, họ vẫn bị những kẻ buôn lậu lợi dụng và lợi dụng làm vỏ bọc để phục vụ lợi ích của chính họ. “Nếu có các rào cản pháp lý đối với rủi ro AI, thì những kẻ buôn lậu (buôn lậu) này sẽ có được thứ họ muốn - một nhóm các nhà cung cấp AI do chính phủ hậu thuẫn bảo vệ họ khỏi các công ty khởi nghiệp mới và tác động của cạnh tranh nguồn mở.”
02. Lý thuyết thất nghiệp và "Ngụy biện bánh cố định"
Vì anh ta cảnh giác với quy định, Mark Anderson đương nhiên không đồng ý với nhiều lập luận đưa ra để ủng hộ quy định. Nhưng ông không phủ nhận giá trị thảo luận của một số chủ đề. Chẳng hạn như, có phải công nghệ đang ăn hết việc làm, bất bình đẳng thu nhập và cuộc tranh luận về việc thúc đẩy xã hội loài người. ** Sai lầm phổ biến về kinh tế khi nghĩ rằng hoạt động thị trường là một trò chơi có tổng bằng không. Nghĩa là, giả sử có một chiếc bánh cố định trong đó một bên chỉ có thể đạt được bằng cách gây thiệt hại cho bên kia. ** Tự động hóa dẫn đến thất nghiệp, đây là một dạng "ngụy biện chiếc bánh cố định". Mark Anderson đã chỉ ra trong một bài báo dài, "Tức là tại bất kỳ thời điểm nào, lượng lao động là cố định, hoặc do máy móc hoặc do con người. Nếu do máy móc làm thì con người thất nghiệp." nhưng nó không phải là sự thật. Lấy một ví dụ đơn giản, chủ một xưởng may mua một số lượng lớn máy móc. Bản thân các máy móc đòi hỏi lao động để sản xuất, tạo ra những công việc không tồn tại. Sau khi tiền mua máy được “trả lại”, chủ xưởng may lãi vượt trội nhờ lợi thế về giá thành. Có nhiều cách để tiêu số tiền này - mở rộng quy mô nhà máy, đầu tư vào chuỗi cung ứng hoặc mua nhà, mức tiêu thụ cao, bất kể là tiêu như thế nào, đều mang lại cơ hội việc làm cho các ngành khác. Tất nhiên, lợi thế về chi phí của xưởng may sẽ không tồn tại mãi mãi. Để cạnh tranh, các đối thủ cũng sẽ bắt đầu mua máy móc (để công nhân sản xuất máy móc có nhiều cơ hội việc làm hơn). Áo khoác ngày càng nhiều, giá giảm, các xưởng may không còn lãi như trước. Khi ngày càng nhiều người có thể mua áo khoác với giá thấp hơn, kích thích tiêu dùng, toàn bộ ngành may mặc sẽ sử dụng nhiều lao động hơn so với trước khi máy móc ra đời. Tất nhiên, cũng có thể sau khi áo khoác rẻ đến một mức độ nhất định, người tiêu dùng sẽ chi số tiền tiết kiệm được cho các khía cạnh khác, do đó làm tăng việc làm trong các ngành khác. "Khi công nghệ được áp dụng vào sản xuất, năng suất cũng tăng lên, đầu vào giảm và đầu ra tăng. Kết quả là giá hàng hóa và dịch vụ được hạ xuống, và chúng ta sẽ có thêm khả năng chi tiêu để mua những thứ khác. Điều này làm tăng nhu cầu, thúc đẩy nhu cầu mới Mark Anderson viết. "Khi nền kinh tế thị trường vận hành bình thường và công nghệ được giới thiệu tự do, đó sẽ là một chu kỳ đi lên không bao giờ kết thúc. Một nền kinh tế lớn hơn sẽ xuất hiện, với sự thịnh vượng vật chất cao hơn, nhiều ngành công nghiệp, sản phẩm và việc làm hơn", Mark Anderson viết. Điều đó có nghĩa là gì nếu tất cả sức lao động của con người hiện có được thay thế bằng máy móc? "Năng suất sẽ tăng với tốc độ chưa từng có, hàng hóa và dịch vụ hiện có sẽ gần như miễn phí về giá, sức mua của người tiêu dùng sẽ tăng cao và nhu cầu mới sẽ bùng nổ.
Các doanh nhân sẽ tạo ra một loạt các ngành công nghiệp, sản phẩm và dịch vụ mới, đồng thời sử dụng càng nhiều nhân công AI và con người càng tốt để đáp ứng mọi nhu cầu mới. Giả sử AI một lần nữa thay thế sức lao động của con người, chu kỳ sẽ lặp lại, thúc đẩy phát triển kinh tế và tăng trưởng việc làm, dẫn đến một điều không tưởng về vật chất mà Adam Smith không bao giờ dám tưởng tượng. " Nhu cầu của con người là vô tận, và sự phát triển công nghệ là một quá trình liên tục thỏa mãn và xác định khả năng của những nhu cầu này.
Carlota Perez, một nhà kinh tế nghiên cứu về sự thay đổi công nghệ và bong bóng tài chính, cho biết mỗi năng suất mới sẽ có một hình thức khác nhau, nhưng cuối cùng thì điều đó không nhất thiết có nghĩa là sẽ có ít việc làm hơn, mà là định nghĩa về công việc diễn ra theo một cách nào đó. điều đó đã thay đổi. Ngược lại, nếu tuân thủ nghiêm ngặt tính nhất quán logic, chúng ta không chỉ coi tất cả những tiến bộ công nghệ mới là thảm họa, mà tất cả những tiến bộ công nghệ trong quá khứ cũng nên được coi là khủng khiếp như nhau. Nếu bạn nghĩ máy móc là kẻ thù, thì bạn nên quay lại và thư giãn, phải không? Theo logic này, chúng ta tiếp tục quay trở lại nơi tất cả bắt đầu - làm nông nghiệp tự cung tự cấp, chẳng phải sẽ tốt hơn nếu bạn tự may quần áo sao?
**03 Ai gây oan? **
Bên cạnh việc máy móc khiến con người thất nghiệp, bất công xã hội do công nghệ gây ra cũng là một lý lẽ khác để người ta kêu gọi điều tiết AI. "Giả sử AI lấy đi tất cả các công việc, tốt và xấu. Điều này sẽ dẫn đến sự bất bình đẳng lớn về tài sản, vì những người sở hữu AI nhận được tất cả các phần thưởng kinh tế và người bình thường không nhận được gì." Lời giải thích của Anderson cho điều này rất đơn giản. Musk sẽ giàu hơn nếu chỉ bán ô tô cho người giàu? Anh ta sẽ giàu hơn thế này nếu anh ta chỉ chế tạo ô tô cho chính mình? dĩ nhiên là không. Anh ta tối đa hóa lợi nhuận của mình bằng cách bán ô tô ra thế giới – thị trường lớn nhất. Điện, phát thanh truyền hình, máy tính, Internet, điện thoại di động và công cụ tìm kiếm—các nhà sản xuất những công nghệ này đã mạnh tay hạ giá cho đến khi chúng trở nên hợp túi tiền của tất cả mọi người. Tương tự như vậy, chúng tôi đã có quyền truy cập vào AI sáng tạo tiên tiến nhất từ New Bing, Google Bard, v.v. miễn phí hoặc với chi phí thấp. Không phải vì họ ngu ngốc hay hào phóng, mà chính xác là vì họ tham lam - mở rộng quy mô thị trường và kiếm được nhiều tiền hơn. Vì vậy, thay vì công nghệ thúc đẩy sự tập trung của cải, công nghệ cuối cùng lại trao quyền cho mọi người nhiều hơn và nắm bắt phần lớn giá trị đó.
**Bất bình đẳng thực sự là một vấn đề xã hội lớn, nhưng nó không phải do công nghệ thúc đẩy, nó bắt nguồn từ việc chúng ta không cho phép sử dụng AI để giảm bất bình đẳng. **Các lĩnh vực của nền kinh tế, đặc biệt là nhà ở, giáo dục và chăm sóc sức khỏe, có xu hướng đối mặt với lực cản lớn nhất đối với việc áp dụng AI. Như thể hiện trong biểu đồ bên dưới, đường cong màu xanh biểu thị các ngành cho phép đổi mới công nghệ để cải thiện chất lượng đồng thời giảm giá sản phẩm, chẳng hạn như điện tử tiêu dùng, ô tô và trang trí nội thất gia đình. Vào tháng 3 năm nay, Mark Anderson đã viết trên blog Tại sao AI không gây ra thất nghiệp.
Biểu đồ này cho thấy những thay đổi về giá dịch vụ trong hàng chục lĩnh vực chính của nền kinh tế, được điều chỉnh theo lạm phát.
Phần màu đỏ đại diện cho các ngành không cho phép áp dụng đổi mới công nghệ (do đó làm giảm giá). Bạn thấy đấy, giá giáo dục, chăm sóc sức khỏe và nhà ở đều đang tăng lên. "Các ngành có màu đỏ được quản lý chặt chẽ bởi chính phủ và chính ngành. Những ngành này là độc quyền, độc quyền nhóm và cartel với mọi trở ngại để thay đổi mà bạn có thể tưởng tượng: quy định chính thức của chính phủ và nắm bắt quy định, ấn định giá, định giá kiểu Xô Viết, cấp phép nghề nghiệp v.v. Đổi mới công nghệ trong các lĩnh vực này hiện nay trên thực tế đã bị cấm.”
Chúng ta đang bước vào một thế giới của sự phân mảnh—nơi một chiếc TV màn hình phẳng bao phủ toàn bộ bức tường có giá 100 đô la và bằng đại học bốn năm có giá 1 triệu đô la. Vì vậy, những gì xảy ra theo thời gian? Giá tăng đối với các sản phẩm được quản lý, phi công nghệ; giá giảm đối với các sản phẩm ít được quản lý, dựa trên công nghệ. Cái trước mở rộng, cái sau co lại. Cuối cùng, 99% nền kinh tế sẽ là khu vực phi công nghệ được quản lý, đó là nơi chúng tôi đang hướng tới.
04. Giám sát giọng nói và hiệu ứng dốc trượt
Nỗi sợ hãi rằng công nghệ chúng ta tạo ra sẽ trỗi dậy và hủy diệt chúng ta đã ăn sâu vào văn hóa của chúng ta. Về việc liệu những nỗi sợ hãi như vậy có dựa trên bất kỳ cơ sở hợp lý nào hay không và chúng có thể được phân biệt với các giáo phái ở mức độ nào, câu trả lời vẫn còn bỏ ngỏ. Anderson phân loại chúng như một kiểu phân loại sai logic—trong đó những thứ thuộc một danh mục cụ thể được trình bày như thể chúng thuộc về một danh mục khác. "AI là một cỗ máy, giống như máy nướng bánh mì của bạn, nó không hoạt động," ông viết. Tuy nhiên, "nếu các bot giết người không bắt được chúng ta, thì ngôn từ kích động thù địch và thông tin sai lệch sẽ phát triển." Bạn thấy đấy, "bóng ma" kêu gọi quản lý mạng xã hội tiếp tục ám ảnh thời đại của AI. Mọi quốc gia, kể cả Hoa Kỳ, đều coi một số nội dung nhất định trên các nền tảng xã hội là bất hợp pháp. Ví dụ bao gồm nội dung khiêu dâm trẻ em và kích động bạo lực trong thế giới thực. Do đó, bất kỳ nền tảng công nghệ nào hỗ trợ hoặc tạo nội dung sẽ phải chịu một số hạn chế. Những người ủng hộ quy định lập luận rằng AI tổng quát nên tạo ra lời nói và ý tưởng có lợi cho xã hội, đồng thời cấm những lời nói và ý tưởng được tạo ra có hại cho xã hội. Anderson cảnh báo rằng sẽ có một "sự trượt dốc không thể tránh khỏi" khi làm như vậy. Cái gọi là hiệu ứng dốc trượt có nghĩa là một khi điều tồi tệ hoặc vấn đề bắt đầu, nó có khả năng trở nên ngày càng tồi tệ hơn. Nếu nó bị dừng lại, nó sẽ tăng cường và hậu quả sẽ không thể tưởng tượng được. “Một khi đã có khuôn khổ để hạn chế nội dung cực kỳ xấu—ví dụ: ngôn từ kích động thù địch—các cơ quan chính phủ, các nhóm hoạt động và các tổ chức phi chính phủ bắt tay vào hành động để thay đổi bất kỳ ngôn từ nào mà họ cho là mối đe dọa đối với xã hội và/hoặc của họ. kiểm duyệt và đàn áp trên quy mô lớn, thậm chí theo những cách hoàn toàn tội phạm,” ông viết. Hiện tượng này đã diễn ra được 10 năm trên mạng xã hội và vẫn không ngừng nóng lên. Tháng 3 năm ngoái, ban biên tập tờ New York Times đã đăng một bài báo, Nước Mỹ có vấn đề về tự do ngôn luận. Một cuộc thăm dò của Times View/Siena College cho thấy 46% số người được hỏi cho biết họ cảm thấy ít tự do hơn khi nói về chính trị so với một thập kỷ trước. 30% cho biết họ cũng cảm thấy như vậy. Chỉ 21% cho biết họ cảm thấy tự do hơn, bất chấp sự mở rộng đáng kể tiếng nói tại các quảng trường công cộng thông qua mạng xã hội trong thập kỷ qua. Họ viết: “Khi các chuẩn mực xã hội xung quanh lời nói có thể chấp nhận được thay đổi liên tục và khi tác hại không được xác định rõ ràng, những hạn chế này đối với lời nói có thể trở thành các quy tắc độc đoán với những hậu quả không tương xứng”. kết thúc. Và đối với Anderson, mỗi sáng thức dậy thấy hàng chục người giải thích chi tiết cho anh ấy trên Twitter rằng anh ấy là một thằng ngốc khá hữu ích: Bằng cách tranh luận với người khác, bạn có thể xây dựng một cách đại khái mô hình phương pháp suy nghĩ của người khác, và bạn có thể suy nghĩ về vấn đề từ góc độ của họ, và cách suy nghĩ của bạn sẽ trở nên khách quan và trung lập hơn. Ông cảnh báo rằng những người tranh luận rằng trí tuệ nhân tạo nên phù hợp với các giá trị con người chỉ là một phần rất nhỏ trong dân số toàn cầu, “một đặc điểm của giới tinh hoa ven biển của Mỹ, bao gồm nhiều người làm việc và viết lách trong ngành công nghệ”. "Nếu bạn phản đối việc áp đặt đạo đức thích hợp trên mạng xã hội và AI thông qua việc liên tục củng cố mã giọng nói, thì bạn cũng nên lưu ý rằng cuộc chiến về những gì AI được phép nói/sản xuất sẽ lớn hơn cuộc chiến kiểm duyệt mạng xã hội nhiều hơn quan trọng. AI có tiềm năng trở thành lớp kiểm soát mọi thứ trên thế giới. Làm thế nào nó được phép làm việc có lẽ quan trọng hơn bất cứ điều gì. Bạn nên lưu ý rằng hiện tại, một nhóm nhỏ các kỹ sư xã hội bị cô lập đang đội lốt cổ xưa để bảo vệ bạn, để đạo đức của họ quyết định cách thức hoạt động của AI. "
05. Rủi ro thực sự và đáng sợ nhất
Nếu không có nỗi sợ hãi và lo lắng nào ở trên là rủi ro thực sự, thì rủi ro lớn nhất của AI là gì? Theo quan điểm của ông, có một rủi ro cuối cùng và thực sự đối với AI, và có thể là rủi ro lớn nhất, đáng sợ nhất: Hoa Kỳ không giành được vị trí thống trị AI toàn cầu. ** Để đạt được mục tiêu đó, “chúng ta nên thúc đẩy AI vào các nền kinh tế và xã hội của chúng ta càng nhanh và càng nhiều càng tốt, tối đa hóa lợi ích của nó đối với năng suất kinh tế và tiềm năng của con người”.
Ở cuối bài viết dài, anh ấy đề xuất một vài kế hoạch đơn giản.
Điều này sẽ tối đa hóa lợi nhuận về công nghệ và xã hội đối với khả năng đáng kinh ngạc của các công ty này, những viên ngọc quý của chủ nghĩa tư bản hiện đại. 2. Các công ty khởi nghiệp về AI nên được phép phát triển AI nhanh và tích cực nhất có thể. Họ nên được phép cạnh tranh. Nếu các công ty khởi nghiệp không thành công, thì bản thân việc có mặt trên thị trường sẽ tiếp tục thúc đẩy các công ty lớn nỗ lực hết mình -- dù bằng cách nào thì nền kinh tế và xã hội của chúng ta cũng sẽ thắng. 3. Trí tuệ nhân tạo mã nguồn mở nên được phép sinh sôi nảy nở tự do và cạnh tranh với các công ty khởi nghiệp và công ty trí tuệ nhân tạo lớn. Trong mọi trường hợp, không nên có bất kỳ rào cản pháp lý nào đối với nguồn mở.
Ngay cả khi nguồn mở không giết chết các công ty, tính sẵn có rộng rãi của nó sẽ là một lợi ích cho sinh viên trên toàn thế giới, những người muốn học cách xây dựng và sử dụng AI để trở thành một phần của công nghệ trong tương lai và sẽ đảm bảo rằng AI có thể truy cập được tất cả mọi người, bất kể họ là ai hay họ có bao nhiêu tiền. 4. Các chính phủ, hợp tác với khu vực tư nhân, tích cực sử dụng AI để tối đa hóa khả năng phòng vệ của xã hội trong mọi lĩnh vực rủi ro tiềm ẩn. AI có thể là một công cụ mạnh mẽ để giải quyết vấn đề và chúng ta nên nắm lấy nó.