Một khuôn khổ để đánh giá các công nghệ kỹ thuật số và liên quan đang phát triển nhanh chóng: AI, các mô hình ngôn ngữ lớn và hơn thế nữa

• Giới thiệu 
• Tiểu sử 
• Sự phát triển của một khung phân tích 
• Sử dụng khung phân tích 
• Các khía cạnh cần xem xét khi đánh giá một công nghệ mới 
• Một con đường phía trước 
• Lời cảm ơn

Các công nghệ mới nổi nhanh chóng đặt ra những vấn đề đầy thách thức khi nói đến quản trị và quy định tiềm năng. Các cuộc tranh luận về chính sách và công khai về trí tuệ nhân tạo (AI) cũng như việc sử dụng nó đã khiến những vấn đề này trở thành tâm điểm chú ý. Mặc dù các nguyên tắc rộng rãi cho AI đã được UNESCO, OECD và các tổ chức khác ban hành, đồng thời có những cuộc thảo luận sơ khai về quy định toàn cầu hoặc quyền tài phán đối với công nghệ, nhưng có một khoảng cách bản thể học giữa việc phát triển các nguyên tắc cấp cao và việc kết hợp chúng vào các quy định, chính sách, các phương pháp quản trị và quản lý. Đây là nơi cộng đồng khoa học phi chính phủ có thể có một vai trò cụ thể. 

Một số học giả và chuyên gia chính sách đã đề xuất rằng Hội đồng Khoa học Quốc tế (ISC) - với thành viên đa nguyên từ các ngành khoa học xã hội và tự nhiên - thiết lập một quy trình để tạo ra và duy trì một khuôn khổ/danh sách kiểm tra có chú thích về các rủi ro, lợi ích, các mối đe dọa và cơ hội liên quan đến các công nghệ kỹ thuật số chuyển động nhanh chóng, bao gồm – nhưng không giới hạn ở – AI. Mục đích của danh sách kiểm tra là thông báo cho tất cả các bên liên quan – bao gồm chính phủ, các nhà đàm phán thương mại, cơ quan quản lý, xã hội dân sự và ngành công nghiệp – về các kịch bản tiềm ẩn trong tương lai và sẽ định hình cách họ có thể xem xét các cơ hội, lợi ích, rủi ro và các vấn đề khác. 

Các kết quả đầu ra sẽ không đóng vai trò như một cơ quan đánh giá mà là một khung phân tích thích ứng và đang phát triển, có thể củng cố bất kỳ quy trình đánh giá và quy định nào có thể được phát triển bởi các bên liên quan, bao gồm cả chính phủ và hệ thống đa phương. Lý tưởng nhất là bất kỳ khuôn khổ phân tích nào cũng nên được phát triển độc lập với các tuyên bố của chính phủ và ngành, dựa trên lợi ích dễ hiểu của họ. Nó cũng phải có tính đa nguyên tối đa trong các quan điểm của nó, do đó bao gồm tất cả các khía cạnh của công nghệ và ý nghĩa của nó. 

Tài liệu thảo luận này cung cấp phác thảo về khuôn khổ ban đầu để cung cấp thông tin cho nhiều cuộc thảo luận quốc gia và toàn cầu đang diễn ra liên quan đến AI. 

Sự xuất hiện nhanh chóng của một công nghệ có độ phức tạp và ý nghĩa như AI đang thúc đẩy nhiều tuyên bố về những lợi ích to lớn. Tuy nhiên, nó cũng làm dấy lên lo ngại về những rủi ro đáng kể, từ cấp độ cá nhân đến cấp độ địa chiến lược. Phần lớn cuộc thảo luận có xu hướng diễn ra ở những điểm cực đoan của các quan điểm và cần có một cách tiếp cận thực tế hơn. Công nghệ AI sẽ tiếp tục phát triển và lịch sử cho thấy hầu như mọi công nghệ đều có những công dụng có lợi và có hại. Do đó, câu hỏi đặt ra là: làm thế nào chúng ta có thể đạt được những kết quả có lợi từ công nghệ này, đồng thời giảm thiểu nguy cơ gây ra hậu quả có hại, một số trong đó có thể tồn tại ở mức độ nghiêm trọng? 

Tương lai luôn không chắc chắn, nhưng có đủ tiếng nói đáng tin cậy và chuyên môn về AI và AI tạo ra để khuyến khích một cách tiếp cận tương đối phòng ngừa. Ngoài ra, cần có cách tiếp cận hệ thống vì AI là một loại công nghệ được sử dụng và ứng dụng rộng rãi cho nhiều loại người dùng. Điều này có nghĩa là bối cảnh đầy đủ phải được tính đến khi xem xét ý nghĩa của AI đối với cá nhân, đời sống xã hội, đời sống công dân, đời sống xã hội và trong bối cảnh toàn cầu. 

Không giống như hầu hết các công nghệ trước đây, công nghệ kỹ thuật số và công nghệ liên quan có khoảng thời gian rất ngắn từ khi phát triển đến khi phát hành, phần lớn được thúc đẩy bởi lợi ích của các công ty hoặc đại lý sản xuất. AI có sức lan tỏa nhanh chóng; một số đặc tính có thể chỉ trở nên rõ ràng sau khi được phát hành và công nghệ này có thể có cả ứng dụng độc hại và nhân từ. Các khía cạnh giá trị quan trọng sẽ ảnh hưởng đến cách cảm nhận bất kỳ việc sử dụng nào. Hơn nữa, có thể có những lợi ích địa chiến lược đang diễn ra. 

Cho đến nay, quy định về công nghệ ảo phần lớn được nhìn qua lăng kính “các nguyên tắc” và sự tuân thủ tự nguyện. Tuy nhiên, gần đây hơn, cuộc thảo luận đã chuyển sang các vấn đề quản trị quốc gia và đa phương, bao gồm cả việc sử dụng các công cụ quản lý và chính sách khác. Những tuyên bố ủng hộ hoặc chống lại AI thường mang tính cường điệu và – do bản chất của công nghệ – rất khó đánh giá. Việc thiết lập một hệ thống quy định công nghệ quốc gia hoặc toàn cầu hiệu quả sẽ là một thách thức và sẽ cần có nhiều lớp ra quyết định dựa trên rủi ro trong toàn bộ chuỗi, từ nhà phát minh đến nhà sản xuất, người sử dụng, chính phủ và hệ thống đa phương. 

Mặc dù các nguyên tắc cấp cao đã được ban hành bởi UNESCO, OECD và Ủy ban Châu Âu cùng nhiều tổ chức khác và nhiều cuộc thảo luận cấp cao khác nhau đang được tiến hành liên quan đến các vấn đề về quy định tiềm năng, nhưng vẫn có một khoảng cách lớn về mặt bản thể học giữa các nguyên tắc đó và khung quản lý hoặc quy định. Phân loại các cân nhắc mà cơ quan quản lý có thể cần xem xét là gì? Việc đóng khung tập trung vào phạm vi hẹp sẽ là không khôn ngoan, do những tác động rộng lớn của những công nghệ này. Tiềm năng này đã là chủ đề của nhiều bình luận, cả tích cực lẫn tiêu cực.

ISC là tổ chức phi chính phủ toàn cầu chính tích hợp khoa học tự nhiên và xã hội. Phạm vi tiếp cận toàn cầu và chuyên môn của nó có nghĩa là nó có vị thế tốt để đưa ra lời khuyên độc lập và phù hợp trên toàn cầu nhằm cung cấp thông tin cho những lựa chọn phức tạp phía trước, đặc biệt khi tiếng nói hiện tại trong lĩnh vực này phần lớn đến từ ngành công nghiệp hoặc từ các cường quốc công nghệ lớn. Sau cuộc thảo luận rộng rãi trong những tháng gần đây, bao gồm cả việc xem xét quy trình đánh giá phi chính phủ, ISC kết luận rằng đóng góp hữu ích nhất của nó là tạo ra và duy trì một khuôn khổ phân tích thích ứng có thể được sử dụng làm cơ sở cho việc thảo luận và ra quyết định của các tổ chức. tất cả các bên liên quan, kể cả trong bất kỳ quá trình đánh giá chính thức nào phát sinh. 

Khung này sẽ có dạng một danh sách kiểm tra tổng thể mà cả các tổ chức chính phủ và phi chính phủ có thể sử dụng. Khung này xác định và khám phá tiềm năng của công nghệ như AI và các dẫn xuất của nó thông qua lăng kính rộng bao gồm phúc lợi của con người và xã hội, cũng như các yếu tố bên ngoài, như kinh tế, chính trị, môi trường và an ninh. Một số khía cạnh của danh sách kiểm tra có thể phù hợp hơn những khía cạnh khác, tùy thuộc vào ngữ cảnh, nhưng sẽ có nhiều khả năng đưa ra quyết định tốt hơn nếu tất cả các lĩnh vực đều được xem xét. Đây là giá trị vốn có của phương pháp kiểm tra danh sách kiểm tra. 

Khung đề xuất được bắt nguồn từ công việc và suy nghĩ trước đây, bao gồm báo cáo phúc lợi kỹ thuật số của Mạng lưới Tư vấn Khoa học Chính phủ Quốc tế (INGSA).¹ và Khung phân loại AI của OECD² để trình bày tổng thể các cơ hội, rủi ro và tác động tiềm ẩn của AI. Các sản phẩm trước đây bị hạn chế hơn về mục đích do thời gian và bối cảnh của chúng, nên cần có một khuôn khổ tổng thể trình bày đầy đủ các vấn đề cả trong ngắn hạn và dài hạn. 

Mặc dù được phát triển để xem xét AI, khung phân tích này có thể được áp dụng cho bất kỳ công nghệ mới nổi nào đang phát triển nhanh chóng. Các vấn đề được nhóm lại thành các loại sau để kiểm tra thêm: 

• Phúc lợi (bao gồm hạnh phúc của cá nhân hoặc bản thân, xã hội và đời sống xã hội, và đời sống công dân) 
• Thương mại và kinh tế 
• môi trường 
• Địa chiến lược và địa chính trị 
• Công nghệ (đặc điểm hệ thống, thiết kế và sử dụng) 

Danh sách những điều cần cân nhắc cho từng loại trên được bao gồm cùng với các cơ hội và hậu quả tương ứng của chúng. Một số có liên quan đến các trường hợp hoặc ứng dụng cụ thể của AI trong khi một số khác là chung chung và không rõ ràng về nền tảng hoặc cách sử dụng. Không có sự cân nhắc nào ở đây nên được coi là ưu tiên và, do đó, tất cả đều cần được xem xét. 

Khung này có thể được sử dụng nhưng không giới hạn ở các cách sau: 

• Để thu hẹp khoảng cách giữa các nguyên tắc và đánh giá bằng cách thiết lập một nguyên tắc phân loại chung đã được xác thực về phạm vi cân nhắc mà các bên liên quan có thể sử dụng làm cơ sở để cung cấp thông tin và định hình tư duy sâu hơn, bao gồm mọi khung đánh giá có thể được chính quyền phát triển. 

• Để thông báo đánh giá tác động. Đạo luật AI của EU yêu cầu các tổ chức cung cấp công cụ AI hoặc áp dụng AI trong quy trình của họ phải thực hiện đánh giá tác động để xác định rủi ro trong các sáng kiến ​​của mình và áp dụng phương pháp quản lý rủi ro phù hợp. Khung trình bày ở đây có thể được sử dụng làm nền tảng cho việc này. 

• Để nâng cao các nguyên tắc đạo đức cần thiết để hướng dẫn và quản lý việc sử dụng AI. Khung này có thể thực hiện điều này bằng cách cung cấp một nền tảng linh hoạt để có thể phát triển các hệ thống đáng tin cậy và đảm bảo việc sử dụng công nghệ hợp pháp, có đạo đức, mạnh mẽ và có trách nhiệm. Những nguyên tắc này có thể được kiểm tra dựa trên đầy đủ các tác động được trình bày trong khuôn khổ này. 
• Để tạo điều kiện thuận lợi cho việc thực hiện các biện pháp hiện có (ví dụ: quy định, lập pháp, chính sách) và xác định bất kỳ lỗ hổng nào cần xem xét thêm. 

• Khung này không phụ thuộc vào công nghệ và cách sử dụng nó. Do đó, nó có thể được sử dụng trong các lĩnh vực khá khác biệt như sinh học tổng hợp. 

Bảng sau đây mô tả sơ bộ các kích thước của khung phân tích. Tùy thuộc vào công nghệ và cách sử dụng nó, một số thành phần sẽ phù hợp hơn những thành phần khác. Các ví dụ được cung cấp để minh họa tại sao mỗi miền có thể quan trọng; trong bối cảnh, khuôn khổ này sẽ yêu cầu mở rộng phù hợp với ngữ cảnh. Điều quan trọng nữa là phải phân biệt giữa sự phát triển nền tảng và các vấn đề chung có thể xuất hiện trong các ứng dụng cụ thể.  

Chìa khóa để nguồn mô tả

Văn bản thô:
Gluckman, P. và Allen, K. 2018. Hiểu rõ về phúc lợi trong bối cảnh chuyển đổi kỹ thuật số nhanh chóng và liên quan. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Chữ in đậm:
OECD. 2022. Khung phân loại hệ thống AI của OECD. Tài liệu về kinh tế số của OECD, số 323, Nhà xuất bản OECD, Paris. https://oecd.ai/en/classification 

Văn bản nghiêng:
Bộ mô tả mới (từ nhiều nguồn) 

Tùy thuộc vào phản hồi đối với tài liệu thảo luận này, ISC sẽ thành lập một nhóm công tác chuyên gia để tiếp tục phát triển hoặc sửa đổi khung phân tích trên để các bên liên quan có thể xem xét toàn diện bất kỳ sự phát triển quan trọng nào về nền tảng hoặc kích thước sử dụng. Nhóm làm việc sẽ đa dạng về mặt kỷ luật, địa lý và nhân khẩu học, với chuyên môn trải dài từ đánh giá công nghệ đến chính sách công, từ phát triển con người đến xã hội học, tương lai và nghiên cứu công nghệ. 

Để tham gia vào tài liệu thảo luận này, vui lòng truy cập Council.science/publications/framework-digital-technology 

Nhiều người đã được tham khảo ý kiến ​​trong quá trình phát triển bài báo này, được soạn thảo bởi Sir Peter Gluckman, Chủ tịch ISC và Hema Sridhar, cựu Trưởng nhóm khoa học, Bộ Quốc phòng, và hiện là nghiên cứu viên cao cấp, Đại học Auckland, New Zealand. 

Đặc biệt, chúng tôi xin cảm ơn Lord Martin Rees, cựu Chủ tịch Hiệp hội Hoàng gia và đồng sáng lập Trung tâm Nghiên cứu Rủi ro Sinh tồn, Đại học Cambridge; Giáo sư Shivaji Sondhi, Giáo sư Vật lý, Đại học Oxford; Giáo sư K Vijay Raghavan, nguyên cố vấn khoa học chính của Chính phủ Ấn Độ; Amandeep Singh Gill, Đặc phái viên về Công nghệ của Tổng Thư ký LHQ; Tiến sĩ Seán Óh Éigeartaigh, Giám đốc Điều hành, Trung tâm Nghiên cứu Rủi ro Hiện sinh, Đại học Cambridge; Amanda- June Brawner, Cố vấn chính sách cấp cao và Ian Wiggins, Giám đốc quan hệ quốc tế, Hiệp hội Hoàng gia Vương quốc Anh; Tiến sĩ Jerome Duberry, Tiến sĩ Marie-Laure Salles, Giám đốc Viện Sau đại học Geneva; ông Chor Pharn Lee, Trung tâm Chiến lược Tương lai, Văn phòng Thủ tướng, Singapore; Barend Mons và Tiến sĩ Simon Hodson, Ủy ban Dữ liệu (CoDATA); GS Yuko Harayama, Nhật Bản; Giáo sư Rémi Quirion, Chủ tịch, INGSA; Tiến sĩ Claire Craig, Đại học Oxford và Nguyên Trưởng phòng Dự báo, Văn phòng Khoa học Chính phủ; và Giáo sư Yoshua Bengio, Ban cố vấn khoa học của Tổng thư ký Liên hợp quốc và tại Đại học Montréal. Cách tiếp cận danh sách kiểm tra thường được xác nhận và tính kịp thời của bất kỳ hành động nào của ISC đều được nhấn mạnh.