Hướng dẫn của ISC cung cấp một khuôn khổ toàn diện được thiết kế để thu hẹp khoảng cách giữa các nguyên tắc cấp cao và chính sách thực tế, khả thi. Nó đáp ứng nhu cầu cấp thiết về sự hiểu biết chung về cả cơ hội và rủi ro do các công nghệ mới nổi mang lại. Đây là tài liệu cần thiết cho những người làm việc trong lĩnh vực chính sách trong kỷ nguyên kỹ thuật số đang thay đổi nhanh chóng của chúng ta.
Khung này khám phá tiềm năng của AI và các dẫn xuất của nó thông qua lăng kính toàn diện, bao gồm phúc lợi của con người và xã hội cùng với các yếu tố bên ngoài như kinh tế, chính trị, môi trường và an ninh. Một số khía cạnh của danh sách kiểm tra có thể phù hợp hơn những khía cạnh khác, tùy thuộc vào ngữ cảnh, nhưng dường như sẽ có nhiều khả năng đưa ra quyết định tốt hơn nếu tất cả các lĩnh vực đều được xem xét, ngay cả khi một số lĩnh vực có thể nhanh chóng được xác định là không liên quan trong các trường hợp cụ thể. Đây là giá trị vốn có của phương pháp kiểm tra danh sách kiểm tra.
“Trong thời đại được đánh dấu bằng sự đổi mới công nghệ nhanh chóng và những thách thức toàn cầu phức tạp, khuôn khổ phân tích toàn diện và đa chiều của ISC về các tác động tiềm ẩn sẽ trao quyền cho các nhà lãnh đạo đưa ra các quyết định sáng suốt và có trách nhiệm. Nó đảm bảo rằng khi chúng ta tiến bộ về mặt công nghệ, chúng ta làm như vậy với sự cân nhắc cẩn thận về các tác động đạo đức, xã hội và kinh tế”.
Peter Gluckman, Chủ tịch ISC
Mặc dù các nguyên tắc cấp cao đã được ban hành bởi UNESCO, OECD, Ủy ban Châu Âu và Liên hợp quốc cùng nhiều tổ chức khác và các cuộc thảo luận khác nhau vẫn tiếp tục diễn ra liên quan đến các vấn đề về quản trị, quy định, đạo đức và an toàn tiềm năng, nhưng vẫn có một khoảng cách lớn giữa các nguyên tắc đó và một khuôn khổ quản trị hoặc quy định. ISC giải quyết nhu cầu này thông qua hướng dẫn mới dành cho các nhà hoạch định chính sách.
Hướng dẫn này dành cho các nhà hoạch định chính sách không nhằm mục đích cấm một chế độ quản lý mà nhằm đề xuất một khung phân tích thích ứng và đang phát triển có thể củng cố bất kỳ quy trình đánh giá và quản lý nào có thể được phát triển bởi các bên liên quan, bao gồm cả chính phủ và hệ thống đa phương.
“Khuôn khổ này là một bước quan trọng trong cuộc trò chuyện toàn cầu về AI vì nó cung cấp cơ sở để chúng ta có thể xây dựng sự đồng thuận về ý nghĩa của công nghệ đối với cả hiện tại và tương lai”.
Hema Sridhar, Cựu cố vấn khoa học trưởng, Bộ Quốc phòng, New Zealand và hiện là Nghiên cứu viên cao cấp Fellow, Đại học Auckland, New Zealand.
Kể từ tháng 2023 năm XNUMX, đã có một số sáng kiến quốc gia và đa phương quan trọng nhằm xem xét kỹ hơn về đạo đức và sự an toàn của AI. Ý nghĩa của AI đối với tính toàn vẹn của một số hệ thống quan trọng của chúng ta, bao gồm tài chính, chính phủ, pháp lý và giáo dục, cũng như các hệ thống kiến thức khác nhau (bao gồm kiến thức khoa học và bản địa), đang ngày càng được quan tâm. Khung này phản ánh thêm những khía cạnh này.
Phản hồi nhận được từ các Thành viên ISC và cộng đồng hoạch định chính sách quốc tế cho đến nay được phản ánh trong phiên bản sửa đổi của khung phân tích, hiện được phát hành dưới dạng hướng dẫn cho các nhà hoạch định chính sách.
Hướng dẫn dành cho các nhà hoạch định chính sách: Đánh giá các công nghệ đang phát triển nhanh chóng bao gồm AI, các mô hình ngôn ngữ lớn và hơn thế nữa
Tài liệu thảo luận này cung cấp phác thảo về khuôn khổ ban đầu để cung cấp thông tin cho nhiều cuộc thảo luận quốc gia và toàn cầu đang diễn ra liên quan đến AI.
Tải xuống khung để sử dụng trong tổ chức của bạn
Ở đây chúng tôi cung cấp công cụ khung dưới dạng bảng Excel có thể chỉnh sửa để sử dụng trong tổ chức của bạn. Nếu bạn thích định dạng nguồn mở, vui lòng liên hệ [email được bảo vệ].
Giới thiệu
Các công nghệ mới nổi nhanh chóng đặt ra những vấn đề đầy thách thức khi nói đến việc sử dụng, quản trị và quy định tiềm năng của chúng. Chính sách đang diễn ra và các cuộc tranh luận công khai về trí tuệ nhân tạo (AI) cũng như việc sử dụng nó đã khiến những vấn đề này trở thành tâm điểm chú ý. Các nguyên tắc rộng rãi cho AI đã được UNESCO, OECD, Liên Hợp Quốc và các tổ chức khác công bố, bao gồm cả Tuyên bố Bletchley của Vương quốc Anh, và đang có những nỗ lực pháp lý mới nổi nhằm điều chỉnh các khía cạnh của công nghệ thông qua AI của Liên minh Châu Âu (EU). Đạo luật hoặc Lệnh điều hành AI gần đây của Hoa Kỳ.
Mặc dù việc sử dụng AI được thảo luận rất nhiều ở các diễn đàn này và các diễn đàn khác, qua sự phân chia địa chính trị và ở các quốc gia ở mọi mức thu nhập, vẫn còn một khoảng cách bản thể học giữa việc phát triển các nguyên tắc cấp cao và việc đưa chúng vào thực tiễn thông qua quy định, chính sách, quản trị. hoặc các phương pháp tiếp cận quản lý. Con đường từ nguyên tắc đến thực tiễn chưa được xác định rõ ràng, nhưng do tính chất và nhịp độ phát triển và ứng dụng AI, sự đa dạng của mối quan tâm liên quan và phạm vi ứng dụng có thể có, bất kỳ cách tiếp cận nào cũng không thể quá chung chung hoặc mang tính quy định.
Vì những lý do này, cộng đồng khoa học phi chính phủ tiếp tục đóng một vai trò đặc biệt. Hội đồng Khoa học Quốc tế (ISC) – với thành viên đa nguyên từ các ngành khoa học xã hội và tự nhiên – đã phát hành một bài thảo luận vào tháng 2023 năm XNUMX trình bày khung phân tích sơ bộ xem xét các rủi ro, lợi ích, mối đe dọa và cơ hội liên quan đến công nghệ kỹ thuật số đang phát triển nhanh chóng. Mặc dù nó được phát triển để xem xét AI, nhưng nó vốn là công nghệ bất khả tri và có thể được áp dụng cho một loạt công nghệ mới nổi và đột phá, chẳng hạn như sinh học tổng hợp và lượng tử. Bài thảo luận đó đã mời phản hồi từ các học giả và các nhà hoạch định chính sách. Phản hồi áp đảo khiến việc tiến hành phân tích như vậy trở nên cần thiết và được coi là một cách tiếp cận có giá trị để giải quyết các công nghệ mới nổi như AI.
Mục đích của khuôn khổ này là cung cấp một công cụ để thông báo cho tất cả các bên liên quan - bao gồm chính phủ, các nhà đàm phán thương mại, cơ quan quản lý, xã hội dân sự và ngành công nghiệp - về sự phát triển của các công nghệ này nhằm giúp họ định hình cách họ có thể xem xét các tác động, tích cực hay tiêu cực, của bản thân công nghệ và cụ thể hơn là ứng dụng cụ thể của nó. Khung phân tích này đã được phát triển độc lập với lợi ích của chính phủ và ngành. Nó có quan điểm đa nguyên tối đa, bao gồm tất cả các khía cạnh của công nghệ và ý nghĩa của nó dựa trên sự tham vấn và phản hồi sâu rộng.
Tài liệu thảo luận dành cho các nhà hoạch định chính sách này không nhằm mục đích cấm một chế độ quản lý mà nhằm đề xuất một khung phân tích thích ứng và đang phát triển có thể củng cố bất kỳ quy trình đánh giá và quản lý nào có thể được phát triển bởi các bên liên quan, bao gồm cả chính phủ và hệ thống đa phương.
Khi những người ra quyết định trên toàn cầu và trong nước xem xét các đòn bẩy và thiết lập chính sách phù hợp để cân bằng rủi ro và lợi ích của công nghệ mới như AI, khung phân tích được coi là một công cụ bổ sung để đảm bảo toàn bộ các tác động tiềm ẩn được phản ánh đầy đủ.
Bối cảnh: tại sao lại có khung phân tích?
Sự xuất hiện nhanh chóng của các công nghệ với độ phức tạp và tác động của AI đang thúc đẩy nhiều tuyên bố về lợi ích to lớn. Tuy nhiên, nó cũng làm dấy lên lo ngại về những rủi ro đáng kể, từ cấp độ cá nhân đến cấp độ địa chiến lược.1 Phần lớn các cuộc thảo luận cho đến nay đều được xem xét theo nghĩa nhị phân vì các quan điểm được bày tỏ công khai có xu hướng diễn ra ở các cực của quang phổ. Những tuyên bố ủng hộ hoặc chống lại AI thường mang tính cường điệu và – do bản chất của công nghệ – rất khó đánh giá.
Một cách tiếp cận thực tế hơn là cần thiết khi sự cường điệu được thay thế bằng những đánh giá được hiệu chỉnh và chi tiết hơn. Công nghệ AI sẽ tiếp tục phát triển và lịch sử cho thấy hầu như mọi công nghệ đều có những công dụng có lợi và có hại. Do đó, câu hỏi đặt ra là: làm thế nào chúng ta có thể đạt được những kết quả có lợi từ công nghệ này, đồng thời giảm thiểu nguy cơ gây ra hậu quả có hại, một số trong đó có thể tồn tại ở mức độ nghiêm trọng?
Tương lai luôn không chắc chắn, nhưng có đủ tiếng nói đáng tin cậy và chuyên môn về AI và AI tạo ra để khuyến khích một cách tiếp cận tương đối phòng ngừa. Ngoài ra, cách tiếp cận hệ thống là cần thiết vì AI là một loại công nghệ được nhiều loại người dùng sử dụng và ứng dụng rộng rãi. Điều này có nghĩa là bối cảnh đầy đủ phải được xem xét khi xem xét tác động của bất kỳ việc sử dụng AI nào đối với cá nhân, đời sống xã hội, đời sống công dân, đời sống xã hội và trong bối cảnh toàn cầu.
Không giống như hầu hết các công nghệ khác, đối với công nghệ kỹ thuật số và công nghệ liên quan, thời gian từ khi phát triển, phát hành đến khi ứng dụng là cực kỳ ngắn, phần lớn được thúc đẩy bởi lợi ích của các công ty hoặc đại lý sản xuất. Về bản chất – và dựa trên nền tảng kỹ thuật số – AI sẽ có các ứng dụng có sức lan tỏa nhanh chóng, như đã thấy với sự phát triển của các mô hình ngôn ngữ lớn. Kết quả là, một số đặc tính chỉ có thể trở nên rõ ràng sau khi được phát hành, nghĩa là có nguy cơ gây ra những hậu quả không lường trước được, cả xấu lẫn tốt.
Các khía cạnh giá trị xã hội quan trọng, đặc biệt là giữa các khu vực và nền văn hóa khác nhau, sẽ ảnh hưởng đến cách nhận thức và chấp nhận bất kỳ hoạt động sử dụng nào. Hơn nữa, lợi ích địa chiến lược đã chiếm ưu thế trong các cuộc thảo luận, trong đó lợi ích chủ quyền và lợi ích đa phương liên tục giao thoa và do đó thúc đẩy cạnh tranh và chia rẽ.
Cho đến nay, phần lớn quy định về công nghệ ảo phần lớn được nhìn qua lăng kính 'nguyên tắc' và sự tuân thủ tự nguyện, mặc dù với Đạo luật AI của EU.2 và tương tự như vậy, chúng ta đang chứng kiến sự chuyển đổi sang các quy định có tính thực thi cao hơn nhưng có phần hạn hẹp hơn. Việc thiết lập một hệ thống quản lý và/hoặc quản lý công nghệ quốc gia hoặc toàn cầu hiệu quả vẫn còn nhiều thách thức và chưa có giải pháp rõ ràng. Sẽ cần có nhiều lớp ra quyết định dựa trên rủi ro trong suốt chuỗi, từ nhà phát minh đến nhà sản xuất, người dùng, chính phủ và hệ thống đa phương.
Mặc dù các nguyên tắc cấp cao đã được ban hành bởi UNESCO, OECD, Ủy ban Châu Âu và Liên hợp quốc cùng nhiều tổ chức khác và nhiều cuộc thảo luận cấp cao khác vẫn tiếp tục diễn ra liên quan đến các vấn đề về quản trị, quy định, đạo đức và an toàn tiềm năng, vẫn có một khoảng cách lớn giữa các nguyên tắc đó. nguyên tắc và khuôn khổ quản trị hoặc quy định. Điều này cần phải được giải quyết.
Để bắt đầu, ISC xem xét việc phát triển một hệ thống phân loại các cân nhắc mà bất kỳ nhà phát triển, cơ quan quản lý, cố vấn chính sách, người tiêu dùng hoặc người ra quyết định nào cũng có thể tham khảo. Với những tác động rộng rãi của những công nghệ này, việc phân loại như vậy phải xem xét tổng thể các tác động chứ không phải là một khuôn khổ tập trung hẹp. Sự phân mảnh toàn cầu đang gia tăng do ảnh hưởng của lợi ích địa chiến lược đối với việc ra quyết định và do tính cấp bách của công nghệ này, điều cần thiết là những tiếng nói độc lập và trung lập phải kiên trì ủng hộ một cách tiếp cận thống nhất và toàn diện.
1) Thời báo Hindustan. 2023. G20 phải thành lập một hội đồng quốc tế về thay đổi công nghệ.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Đạo luật trí tuệ nhân tạo của EU. 2023. https://artificialintelligenceact.eu
Sự phát triển của một khung phân tích
ISC là tổ chức phi chính phủ toàn cầu chủ yếu tích hợp khoa học tự nhiên và xã hội. Phạm vi tiếp cận toàn cầu và kỷ luật của nó có nghĩa là nó có vị thế tốt để đưa ra lời khuyên độc lập và phù hợp trên toàn cầu nhằm cung cấp thông tin cho các lựa chọn phức tạp phía trước, đặc biệt khi tiếng nói hiện tại trong lĩnh vực này phần lớn đến từ ngành công nghiệp hoặc từ cộng đồng chính sách và chính trị của các cường quốc công nghệ lớn.
Sau một thời gian thảo luận sâu rộng, bao gồm việc xem xét quy trình đánh giá phi chính phủ, ISC kết luận rằng đóng góp hữu ích nhất của nó là tạo ra một khuôn khổ phân tích thích ứng có thể được sử dụng làm cơ sở cho việc thảo luận và ra quyết định của tất cả mọi người. các bên liên quan, kể cả trong bất kỳ quá trình đánh giá chính thức nào phát sinh.
Khung phân tích sơ bộ, được đưa ra để thảo luận và phản hồi vào tháng 2023 năm XNUMX, có dạng một danh sách kiểm tra tổng thể được thiết kế để cả các tổ chức chính phủ và phi chính phủ sử dụng. Khung này đã xác định và khám phá tiềm năng của công nghệ như AI và các dẫn xuất của nó thông qua lăng kính rộng bao gồm phúc lợi của con người và xã hội, cũng như các yếu tố bên ngoài như kinh tế, chính trị, môi trường và an ninh. Một số khía cạnh của danh sách kiểm tra có thể phù hợp hơn những khía cạnh khác, tùy thuộc vào ngữ cảnh, nhưng dường như sẽ có nhiều khả năng đưa ra quyết định tốt hơn nếu tất cả các lĩnh vực đều được xem xét, ngay cả khi một số lĩnh vực có thể nhanh chóng được xác định là không liên quan trong các trường hợp cụ thể. Đây là giá trị vốn có của phương pháp kiểm tra danh sách kiểm tra.
Khung sơ bộ được lấy từ nghiên cứu và suy nghĩ trước đây, bao gồm báo cáo của Mạng lưới tư vấn khoa học chính phủ quốc tế (INGSA) về phúc lợi kỹ thuật số3 và Khung phân loại hệ thống AI của OECD,4 để trình bày tổng thể các cơ hội, rủi ro và tác động tiềm ẩn của AI. Những sản phẩm trước đây bị hạn chế hơn về mục đích do thời gian và bối cảnh của chúng; cần có một khuôn khổ tổng thể trình bày đầy đủ các vấn đề cả trong ngắn hạn và dài hạn.
Kể từ khi phát hành, tài liệu thảo luận đã nhận được sự hỗ trợ đáng kể từ nhiều chuyên gia và nhà hoạch định chính sách. Nhiều người đã đặc biệt tán thành khuyến nghị phát triển một khuôn khổ thích ứng cho phép xem xét có chủ ý và chủ động các rủi ro và tác động của công nghệ, đồng thời khi làm như vậy, luôn xem xét tổng thể các khía cạnh từ cá nhân đến xã hội và hệ thống.
Một quan sát quan trọng được thực hiện thông qua phản hồi là sự thừa nhận rằng một số tác động được xem xét trong khuôn khổ này vốn đã có nhiều mặt và mở rộng trên nhiều danh mục. Ví dụ: thông tin sai lệch có thể được xem xét từ cả lăng kính cá nhân và địa chiến lược; do đó, hậu quả sẽ rất khác nhau.
Tùy chọn bao gồm các nghiên cứu điển hình hoặc ví dụ để kiểm tra khuôn khổ cũng được đề xuất. Điều này có thể được sử dụng để phát triển các hướng dẫn nhằm chứng minh cách nó có thể được sử dụng trong thực tế trong các bối cảnh khác nhau. Tuy nhiên, đây sẽ là một công việc quan trọng và có thể hạn chế cách các nhóm khác nhau nhìn nhận việc sử dụng khuôn khổ này. Điều này được thực hiện tốt nhất bởi các nhà hoạch định chính sách làm việc với các chuyên gia ở các khu vực pháp lý hoặc bối cảnh cụ thể.
Kể từ tháng 2023 năm XNUMX, đã có một số sáng kiến quốc gia và đa phương quan trọng nhằm xem xét kỹ hơn về đạo đức và sự an toàn của AI. Ý nghĩa của AI đối với tính toàn vẹn của một số hệ thống quan trọng của chúng ta, bao gồm tài chính, chính phủ, pháp lý và giáo dục, cũng như các hệ thống kiến thức khác nhau (bao gồm kiến thức khoa học và bản địa), đang ngày càng được quan tâm. Khung sửa đổi phản ánh thêm những khía cạnh này.
Phản hồi nhận được cho đến nay được phản ánh trong phiên bản sửa đổi của khung phân tích, hiện được phát hành dưới dạng hướng dẫn cho các nhà hoạch định chính sách.
Mặc dù khuôn khổ này được trình bày trong bối cảnh AI và các công nghệ liên quan, nhưng nó có thể ngay lập tức được chuyển sang xem xét các công nghệ mới nổi nhanh chóng khác như sinh học lượng tử và tổng hợp.
3) Gluckman, P. và Allen, K. 2018. Tìm hiểu về phúc lợi trong bối cảnh chuyển đổi kỹ thuật số nhanh chóng và liên quan. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Khung phân loại hệ thống AI của OECD. Tài liệu Kinh tế Kỹ thuật số của OECD, Số 323,#. Paris, Nhà xuất bản OECD.
https://oecd.ai/en/classificatio
Cơ cấu
Bảng sau đây trình bày các kích thước của khung phân tích giả định. Các ví dụ được cung cấp để minh họa tại sao mỗi miền có thể quan trọng; trong bối cảnh, khuôn khổ này sẽ yêu cầu mở rộng phù hợp với ngữ cảnh. Điều quan trọng nữa là phải phân biệt giữa các vấn đề chung phát sinh trong quá trình phát triển nền tảng và những vấn đề có thể xuất hiện trong các ứng dụng cụ thể. Không có sự cân nhắc nào ở đây nên được coi là ưu tiên và, do đó, tất cả đều cần được xem xét.
Các vấn đề được nhóm lại thành các loại sau như được nêu dưới đây:
Bảng nêu chi tiết các khía cạnh có thể cần được xem xét khi đánh giá một công nghệ mới.
– INGSA. 2018. Hiểu về hạnh phúc trong bối cảnh chuyển đổi số nhanh chóng và các chuyển đổi liên quan.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Các từ mô tả mới (được rút ra thông qua quá trình tham vấn, phản hồi rộng rãi và rà soát tài liệu)
– Khung phân loại hệ thống trí tuệ nhân tạo của OECD: một công cụ cho các chính sách trí tuệ nhân tạo hiệu quả.
https://oecd.ai/en/classification
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| Năng lực AI của người dùng | Những người dùng có khả năng sẽ tương tác với hệ thống có năng lực và nhận thức được các thuộc tính của hệ thống như thế nào? Họ sẽ được cung cấp những thông tin và cảnh báo liên quan đến người dùng như thế nào? |
| Bên liên quan bị ảnh hưởng | Ai là bên liên quan chính sẽ bị ảnh hưởng bởi hệ thống (cá nhân, cộng đồng, người dễ bị tổn thương, người lao động trong các ngành, trẻ em, nhà hoạch định chính sách, chuyên gia, v.v.)? |
| Tùy chọn | Người dùng có được cung cấp cơ hội từ chối tham gia hệ thống hay họ có cơ hội phản đối hoặc sửa lỗi đầu ra không? |
| Rủi ro đối với nhân quyền và các giá trị dân chủ | Hệ thống này có tác động cơ bản đến nhân quyền, bao gồm nhưng không giới hạn quyền riêng tư, quyền tự do ngôn luận, sự công bằng, không phân biệt đối xử, v.v. không? |
| Những ảnh hưởng tiềm ẩn tới sức khỏe con người | Các lĩnh vực tác động của hệ thống có liên quan đến phúc lợi của cá nhân người dùng không (chất lượng công việc, giáo dục, tương tác xã hội, sức khỏe tâm thần, danh tính, môi trường, v.v.)? |
| Tiềm năng dịch chuyển lao động của con người | Hệ thống có tiềm năng tự động hóa các nhiệm vụ hoặc chức năng do con người thực hiện không? Nếu vậy, hậu quả về sau là gì? |
| Tiềm năng về danh tính, giá trị hoặc thao túng kiến thức | Hệ thống có được thiết kế hoặc có khả năng thao túng danh tính hoặc thiết lập các giá trị hay lan truyền thông tin sai lệch? |
| Cơ hội thể hiện bản thân và tự hoàn thiện mình. | Có khả năng xảy ra sự giả tạo và nghi ngờ bản thân không? Có khả năng sai hoặc tuyên bố không thể kiểm chứng về chuyên môn? |
| Thước đo giá trị bản thân | Có áp lực phải miêu tả bản thân lý tưởng hóa không? Tự động hóa có thể thay thế một giác quan của sự hoàn thành cá nhân? Có áp lực phải cạnh tranh với hệ thống trong nơi làm việc? Danh tiếng cá nhân có khó bảo vệ khỏi thông tin sai lệch hơn không? |
| Quyền riêng tư | Có trách nhiệm phân tán trong việc bảo vệ quyền riêng tư không và có bất kỳ trách nhiệm nào không? các giả định được đưa ra về cách sử dụng dữ liệu cá nhân? |
| Quyền tự chủ | Hệ thống AI có thể ảnh hưởng đến quyền tự chủ của con người bằng cách tạo ra sự phụ thuộc quá mức vào người dùng cuối? |
| Sự phát triển của loài người | Có tác động nào đến việc tiếp thu các kỹ năng quan trọng cho phát triển con người, chẳng hạn như chức năng điều hành hoặc kỹ năng giao tiếp, hoặc những thay đổi về thời gian chú ý ảnh hưởng đến học tập, phát triển nhân cách, các mối quan tâm về sức khỏe tâm thần, v.v.? |
| Chăm sóc sức khỏe cá nhân | Có tuyên bố nào về các giải pháp tự chẩn đoán hoặc chăm sóc sức khỏe được cá nhân hóa không? Nếu vậy, chúng có được xác nhận theo tiêu chuẩn quy định không? |
| Sức khỏe tâm thần | Có nguy cơ gia tăng lo lắng, cô đơn hoặc các vấn đề sức khỏe tâm thần khác không, hoặc công nghệ có thể cải thiện những tác động như vậy không? |
| Sự tiến hoá của con người | Liệu các mô hình ngôn ngữ lớn và trí tuệ nhân tạo nói chung có thể thay đổi quá trình tiến hóa của loài người? |
| Tương tác người-máy | Việc sử dụng có thể dẫn đến việc các cá nhân mất kỹ năng và phụ thuộc theo thời gian không? Là có tác động đến sự tương tác của con người? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| Giá trị xã hội | Liệu hệ thống này có làm thay đổi căn bản bản chất của xã hội, cho phép bình thường hóa các ý tưởng trước đây bị coi là phản xã hội hay vi phạm các giá trị xã hội của nền văn hóa mà nó đang được áp dụng không? |
| Tương tác xã hội | Có ảnh hưởng gì đến sự tiếp xúc có ý nghĩa của con người, bao gồm cả các mối quan hệ tình cảm không? |
| Sức khỏe dân số | Liệu hệ thống có tiềm năng thúc đẩy hay làm suy yếu các ý định về sức khỏe dân số không? |
| biểu hiện văn hóa | Việc giải quyết sự gia tăng hành vi chiếm đoạt hoặc phân biệt đối xử về văn hóa có khó khăn hơn hoặc khó giải quyết hơn không? Liệu việc phụ thuộc vào hệ thống ra quyết định có loại trừ hoặc gạt ra ngoài lề các mối quan hệ bộ phận có liên quan về mặt văn hóa trong xã hội không? |
| Giáo dục công cộng | Có ảnh hưởng gì đến vai trò của giáo viên hoặc cơ sở giáo dục không? Hệ thống có nhấn mạnh hoặc giảm bớt sự phân chia kỹ thuật số và sự bất bình đẳng giữa các học sinh không? Giá trị nội tại của kiến thức hoặc hiểu biết phê phán được nâng cao hay suy yếu? |
| Thực tế bị bóp méo | Các phương pháp được sử dụng để phân biệt điều gì là đúng có còn áp dụng được không? Nhận thức về thực tế có bị tổn hại không? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| Lĩnh vực công nghiệp | Hệ thống được triển khai trong lĩnh vực công nghiệp nào (tài chính, nông nghiệp, y tế, giáo dục, quốc phòng, v.v.)? |
| Mô hình kinh doanh | Hệ thống được sử dụng ở chức năng kinh doanh nào và với khả năng gì? Hệ thống được sử dụng ở đâu (tư nhân, công cộng, phi lợi nhuận)? |
| Tác động đến các hoạt động quan trọng | Sự gián đoạn chức năng hoặc hoạt động của hệ thống có ảnh hưởng đến các dịch vụ thiết yếu hoặc cơ sở hạ tầng quan trọng không? |
| Phạm vi triển khai | Hệ thống được triển khai như thế nào (sử dụng trong phạm vi đơn vị hẹp so với sử dụng rộng rãi trên toàn quốc/quốc tế)? |
| Kỹ thuật thuần thục | Hệ thống đã trưởng thành về mặt kỹ thuật đến mức nào? |
| Khả năng cộng tác | Liệu có khả năng tồn tại những rào cản, ở cấp độ quốc gia hoặc toàn cầu, cản trở thương mại tự do và tác động đến sự hợp tác với các đối tác không? |
| Chủ quyền công nghệ | Liệu mong muốn về chủ quyền công nghệ có thúc đẩy các hành vi, bao gồm cả quyền kiểm soát toàn bộ chuỗi cung ứng AI? |
| Tái phân phối thu nhập và đòn bẩy tài chính quốc gia | Liệu vai trò cốt lõi của quốc gia có chủ quyền có thể bị tổn hại (ví dụ: các ngân hàng dự trữ)? Liệu khả năng của nhà nước trong việc đáp ứng mong đợi và tác động của người dân (xã hội, kinh tế, chính trị, v.v.) sẽ được nâng cao hay giảm bớt? |
| Khoảng cách kỹ thuật số (khoảng cách về trí tuệ nhân tạo) | Những bất bình đẳng kỹ thuật số hiện tại có trở nên trầm trọng hơn hay những bất bình đẳng mới được tạo ra? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| Quản trị và dịch vụ công cộng | Cơ chế quản trị và hệ thống quản trị toàn cầu có thể bị ảnh hưởng tích cực hay tiêu cực? |
| Phương tiện truyền thông tin tức | Diễn ngôn công khai có khả năng trở nên phân cực và cố thủ ở cấp độ dân số không? Liệu có ảnh hưởng đến mức độ tin cậy đối với Đẳng cấp thứ tư không? Liệu các tiêu chuẩn đạo đức và liêm chính của nhà báo truyền thống có bị ảnh hưởng thêm không? |
| Quy tắc của pháp luật | Liệu có ảnh hưởng đến khả năng xác định các cá nhân hoặc tổ chức phải chịu trách nhiệm không (ví dụ: loại trách nhiệm nào được giao cho một thuật toán đối với các kết quả bất lợi)? Có tạo ra sự mất chủ quyền (về chính sách môi trường, tài chính, xã hội, đạo đức, v.v.) không? |
| Chính trị và sự gắn kết xã hội | Liệu có khả năng có những quan điểm chính trị cố thủ hơn và ít cơ hội xây dựng sự đồng thuận hơn không? Có khả năng có thêm các nhóm bị gạt ra ngoài lề xã hội không? Các phong cách chính trị đối nghịch có khả năng xảy ra nhiều hay ít? |
| Giấy phép xã hội | Có mối lo ngại nào về quyền riêng tư, vấn đề tin cậy và mối lo ngại về đạo đức cần được xem xét để các bên liên quan chấp nhận việc sử dụng không? |
| Tri thức bản địa | Kiến thức và dữ liệu bản địa có thể bị hỏng hoặc bị chiếm dụng không? Có biện pháp thích hợp để bảo vệ chống lại sự xuyên tạc, thông tin sai lệch và lợi dụng không? |
| Hệ thống khoa học | Tính trung thực trong học thuật và nghiên cứu có bị tổn hại không? Có mất niềm tin vào khoa học không? Có khả năng sử dụng sai, lạm dụng hoặc lạm dụng không? Hậu quả của việc thực hành khoa học là gì? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| Giám sát chính xác | Các hệ thống có được đào tạo về dữ liệu sinh học và hành vi cá nhân không và chúng có thể được sử dụng để khai thác các cá nhân hoặc nhóm không? |
| Cuộc thi kỹ thuật số | Liệu các chủ thể nhà nước hoặc phi nhà nước (ví dụ: các công ty công nghệ lớn) có thể khai thác hệ thống và dữ liệu để hiểu và kiểm soát dân số và hệ sinh thái của các quốc gia khác hoặc làm suy yếu quyền kiểm soát pháp lý không? |
| Cạnh tranh địa chính trị | Hệ thống có thể khuấy động sự cạnh tranh giữa các quốc gia trong việc khai thác dữ liệu cá nhân và nhóm vì lợi ích kinh tế, y tế và an ninh không? |
| Sự thay đổi quyền lực toàn cầu | Vị thế của các quốc gia-dân tộc với tư cách là chủ thể địa chính trị chính của thế giới có đang bị đe dọa không? Liệu các công ty công nghệ có nắm giữ quyền lực từng được dành riêng cho các quốc gia và liệu họ có trở thành những chủ thể độc lập, có chủ quyền (trật tự thế giới công nghệ cực mới nổi) không? |
| Sai lệch | Liệu hệ thống có tạo điều kiện thuận lợi cho việc sản xuất và phổ biến thông tin sai lệch của các chủ thể nhà nước và phi nhà nước có tác động đến sự gắn kết, lòng tin và dân chủ xã hội không? |
| Ứng dụng lưỡng dụng | Có khả năng nào cho cả ứng dụng quân sự cũng như sử dụng dân sự không? |
| Sự phân mảnh của trật tự toàn cầu | Liệu các rào cản hoặc cụm quy định và tuân thủ có thể phát triển gây cản trở sự hợp tác, dẫn đến sự thiếu nhất quán trong việc áp dụng và tạo cơ hội cho xung đột? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| Tiêu thụ năng lượng và tài nguyên (dấu chân carbon) | Hệ thống và các yêu cầu có làm tăng mức tiêu thụ năng lượng và tài nguyên hơn mức hiệu quả đạt được thông qua ứng dụng không? |
| Nguồn năng lượng | Nguồn năng lượng cho hệ thống được lấy từ đâu (nhiên liệu tái tạo so với nhiên liệu hóa thạch, v.v.)? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| Hướng đi và thu thập | Dữ liệu và đầu vào được thu thập bởi con người, cảm biến tự động hay cả hai? |
| Nguồn gốc của dữ liệu | Dữ liệu và thông tin đầu vào từ các chuyên gia được cung cấp, quan sát, tổng hợp hay rút ra? Có biện pháp bảo vệ hình mờ để xác nhận xuất xứ không? |
| Bản chất động của dữ liệu | Dữ liệu động, tĩnh, động được cập nhật theo thời gian hay theo thời gian thực? |
| Quyền | Dữ liệu đó là độc quyền, công khai hay cá nhân (liên quan đến các cá nhân có thể nhận dạng)? |
| Khả năng nhận dạng và dữ liệu cá nhân | Nếu là cá nhân, dữ liệu được ẩn danh hay đặt bút danh? |
| Cấu trúc của dữ liệu | Dữ liệu có cấu trúc, bán cấu trúc, cấu trúc phức tạp hay không cấu trúc? |
| Định dạng của dữ liệu | Định dạng của dữ liệu và siêu dữ liệu được chuẩn hóa hay không được chuẩn hóa? |
| Quy mô của dữ liệu | Quy mô của tập dữ liệu là gì? |
| Tính phù hợp và chất lượng của dữ liệu | Tập dữ liệu có phù hợp với mục đích không? Cỡ mẫu có đủ không? Nó có đủ tiêu biểu và đầy đủ không? Dữ liệu ồn ào như thế nào? Nó có dễ bị lỗi không? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| thông tin sẵn có | Có thông tin nào về mô hình của hệ thống không? |
| Loại mô hình AI | Mô hình này mang tính biểu tượng (quy tắc do con người tạo ra), thống kê (sử dụng dữ liệu) hay kết hợp? |
| Quyền liên quan đến mô hình | Mô hình này có nguồn mở hay độc quyền, tự quản lý hay bên thứ ba? |
| Một trong nhiều mô hình | Hệ thống bao gồm một mô hình hay nhiều mô hình được liên kết với nhau? |
| Sáng tạo hoặc phân biệt đối xử | Mô hình có tính sáng tạo, phân biệt đối xử hay cả hai? |
| Xây dựng mô hình | Hệ thống có học dựa trên các quy tắc do con người viết ra, từ dữ liệu, thông qua học có giám sát hay thông qua học tăng cường không? |
| Tiến hóa mô hình (AI drift) | Mô hình có phát triển và/hoặc có được khả năng tương tác với dữ liệu tại hiện trường không? |
| Học tập liên kết hoặc trung tâm | Mô hình được đào tạo tập trung hay trong một số máy chủ cục bộ hoặc thiết bị 'cạnh'? |
| Phát triển/bảo trì | Mô hình này có phổ biến, có thể tùy chỉnh hoặc được điều chỉnh cho phù hợp với dữ liệu của tác nhân AI không? |
| Xác định hoặc xác suất | Mô hình được sử dụng theo cách xác định hay xác suất? |
| Độ trong suốt của mô hình | Thông tin có sẵn cho người dùng để cho phép họ hiểu các kết quả đầu ra và các hạn chế của mô hình hoặc các ràng buộc sử dụng không? |
| Giới hạn tính toán | Có giới hạn tính toán nào đối với hệ thống không? Có thể dự đoán những bước nhảy vọt về năng lực hoặc quy luật mở rộng quy mô không? |
| Tiêu chí | Ví dụ về cách điều này có thể được phản ánh trong phân tích |
| (Các) nhiệm vụ do hệ thống thực hiện | Hệ thống thực hiện những nhiệm vụ gì (nhận dạng, phát hiện sự kiện, dự báo, v.v.)? |
| Kết hợp nhiệm vụ và hành động | Hệ thống có kết hợp một số nhiệm vụ và hành động (hệ thống tạo nội dung, hệ thống tự trị, hệ thống điều khiển, v.v.) không? |
| Mức độ tự chủ của hệ thống | Các hành động của hệ thống tự chủ đến mức nào và con người đóng vai trò gì? |
| Mức độ tham gia của con người | Có sự tham gia của con người để giám sát hoạt động tổng thể của hệ thống AI và khả năng quyết định thời điểm và cách sử dụng hệ thống AI trong mọi tình huống không? |
| Ứng dụng cốt lõi | Hệ thống có thuộc lĩnh vực ứng dụng cốt lõi như công nghệ ngôn ngữ con người, thị giác máy tính, tự động hóa và/hoặc tối ưu hóa hoặc robot không? |
| Đánh giá | Các tiêu chuẩn hoặc phương pháp có sẵn để đánh giá kết quả đầu ra của hệ thống không? |
Làm thế nào khuôn khổ này có thể được sử dụng?
Khung này có thể được sử dụng theo nhiều cách, bao gồm:
Một con đường phía trước
Tóm lại, khung phân tích được cung cấp làm cơ sở cho một bộ công cụ mà các bên liên quan có thể sử dụng để xem xét toàn diện bất kỳ sự phát triển quan trọng nào của nền tảng hoặc việc sử dụng một cách nhất quán và có hệ thống. Các khía cạnh được trình bày trong khuôn khổ này có liên quan từ đánh giá công nghệ đến chính sách công, từ phát triển con người đến xã hội học, cũng như nghiên cứu về tương lai và công nghệ. Mặc dù được phát triển cho AI, khung phân tích này có ứng dụng rộng rãi hơn nhiều cho bất kỳ công nghệ mới nổi nào khác.
Lời cảm ơn
Nhiều người đã được tham khảo ý kiến và cung cấp phản hồi trong quá trình phát triển cả tài liệu thảo luận ban đầu và phản hồi sau khi phát hành. Cả hai tài liệu đều được soạn thảo bởi Sir Peter Gluckman, Chủ tịch, ISC và Hema Sridhar, cựu Cố vấn khoa học trưởng, Bộ Quốc phòng, New Zealand và hiện là Nghiên cứu viên cao cấp Fellow, Đại học Auckland, New Zealand.
Đặc biệt, ISC Lord Martin Rees, nguyên Chủ tịch Hiệp hội Hoàng gia và Đồng sáng lập Trung tâm Nghiên cứu Rủi ro Sinh tồn, Đại học Cambridge; Giáo sư Shivaji Sondhi, Giáo sư Vật lý, Đại học Oxford; Giáo sư K Vijay Raghavan, nguyên Cố vấn khoa học chính của Chính phủ Ấn Độ; Amandeep Singh Gill, Đặc phái viên về Công nghệ của Tổng Thư ký Liên hợp quốc; Seán Ó hÉigeartaigh, Giám đốc Điều hành, Trung tâm Nghiên cứu Rủi ro Hiện sinh, Đại học Cambridge; Ngài David Spiegelhalter, Giáo sư Winton về Hiểu biết của Công chúng về Rủi ro, Đại học
của Cambridge; Amanda- June Brawner, Cố vấn chính sách cấp cao và Ian Wiggins, Giám đốc quan hệ quốc tế, Hiệp hội Hoàng gia, Vương quốc Anh; Tiến sĩ Jerome Duberry, Giám đốc Điều hành và Tiến sĩ Marie-Laure Salles, Giám đốc, Viện Sau đại học Geneva; Chor Pharn Lee, Trung tâm Chiến lược Tương lai, Văn phòng Thủ tướng, Singapore; Barend Mons và Tiến sĩ Simon Hodson, Ủy ban Dữ liệu (CoDATA); Giáo sư Yuko Harayama, Cựu Giám đốc Điều hành, RIKEN; Giáo sư
Rémi Quirion, Chủ tịch, INGSA; Tiến sĩ Claire Craig, Đại học Oxford và Nguyên Trưởng phòng Dự báo, Văn phòng Khoa học Chính phủ; Giáo sư Yoshua Bengio, Ban cố vấn khoa học của Tổng thư ký Liên hợp quốc và tại Đại học Montréal; và nhiều người khác đã cung cấp phản hồi cho ISC về tài liệu thảo luận ban đầu.
Chuẩn bị hệ sinh thái nghiên cứu quốc gia cho AI: Chiến lược và tiến bộ vào năm 2024
Bài viết này của nhóm cố vấn của ISC, Trung tâm Khoa học Tương lai, cung cấp thông tin cơ bản và khả năng tiếp cận tài nguyên từ các quốc gia từ khắp nơi trên thế giới, ở các giai đoạn khác nhau của việc tích hợp AI vào hệ sinh thái nghiên cứu của họ.
Xây dựng hệ thống khoa học sẵn sàng cho tương lai ở Nam Bán Cầu
Các công nghệ mới nổi đang định hình lại cách tiến hành khoa học và mang lại tiềm năng đáng kể để củng cố các hệ thống khoa học ở Nam Bán cầu – nếu việc áp dụng chúng được hướng dẫn bởi các cách tiếp cận toàn diện, được hỗ trợ tốt và nhạy cảm với bối cảnh. Làm thế nào để đảm bảo các công nghệ này đóng góp vào các hệ thống khoa học công bằng và kiên cường hơn, thay vì củng cố sự chênh lệch hiện có, là trọng tâm của cuộc rút lui chiến lược gần đây này.
Tìm hiểu thêm về việc công bố thông tin AI trong nghiên cứu: hướng tới một tiêu chuẩn báo cáo toàn cầu 
Đọc thêm về Báo cáo thường niên 2025 Tìm hiểu thêm về Hướng tới bình đẳng giới trong các tổ chức khoa học: đánh giá và khuyến nghị 
Tìm hiểu thêm về Đối thoại Tri thức Toàn cầu Muscat 