Toán học không định nghĩa thế giới.

Các mô hình toán học thường được coi như những công cụ trung lập. Chúng được trình bày như những mô hình có tính kỷ luật, khách quan, chính xác và không bị ảnh hưởng bởi tính chủ quan của con người. Trong quản lý, tài chính, chính sách công và hiện nay là trí tuệ nhân tạo, toán học thường được viện dẫn như ngôn ngữ giúp loại bỏ sự mơ hồ và thay thế ý kiến ​​bằng sự thật. Nhưng điều này gây hiểu nhầm. Toán học có thể hình thức hóa một thế giới quan với độ chính xác phi thường. Nó có thể giúp đưa ra các quyết định nhất quán, có thể mở rộng và có thể bảo vệ được. Tuy nhiên, điều mà nó không thể làm là tự mình quyết định thế giới này để làm gì, điều gì quan trọng nhất, những sự đánh đổi nào là chấp nhận được, hoặc điều gì được coi là một kết quả tốt. Những quyết định đó được đưa ra trước khi phương trình được viết ra. Đây là lý do tại sao việc mô hình hóa thế giới không phải là con đường dẫn đến trí thông minh cao hơn, mà là con đường dẫn đến việc mã hóa một cách nhìn, lựa chọn và đánh giá thế giới cụ thể - hướng đến việc hình thức hóa chính phán đoán, dù là của con người, thông qua thuật toán hay tự động. Nó nhắc nhở chúng ta về điểm khởi đầu của toán học. Một mô hình thế giới không bao giờ được khám phá hay ước lượng một cách đơn giản. Nó được thiết kế. Nó xuất hiện từ những phán đoán trước đó về mục đích, sự liên quan, giá trị và sự hy sinh có thể chấp nhận được. Để hiểu rõ điều này hơn, ta nên tạm gác lại những khái niệm trừu tượng và phân tích một trường hợp cụ thể. Hãy tưởng tượng một ngân hàng có đủ Vốn để phê duyệt ba trong năm khoản vay dành cho doanh nghiệp nhỏ. Các khách hàng tiềm năng như sau: Thoạt nhìn, đây có vẻ là một bài toán phân tích đơn giản. Các ứng viên có thể được chấm điểm. Người giỏi nhất có thể được chọn. Ngân hàng có thể bảo vệ sự lựa chọn của mình bằng dữ liệu. Nhưng không có mô hình toán học nào là chính xác cho tình huống này. Có nhiều mô hình khả thi, mỗi mô hình đều mạch lạc về mặt toán học, đều hợp lý về mặt nội tại và đều dựa trên cùng một dữ liệu, nhưng mỗi mô hình lại mô phỏng một thế giới khác nhau. Điều thay đổi không phải là phép toán. Điều thay đổi là hệ thống giá trị đang được mã hóa. Giả sử mục tiêu chính của ngân hàng là tối đa hóa lợi nhuận kỳ vọng. Ngân hàng xây dựng một hệ thống chấm điểm dựa trên trọng số của khả năng tín dụng, sự ổn định thu nhập và tiềm năng kinh doanh như sau: Điểm lợi nhuận = 0,45 (Tín dụng) + 0,35 (Ổn định thu nhập) + 0,20 (Tiềm năng kinh doanh) Để đơn giản hóa việc tính toán, chúng ta hãy chuẩn hóa điểm tín dụng về thang điểm từ 0 đến 10: A = 7.8, B = 7.2, C = 6.8, D = 6.4 và E = 6.1. Quyết định này có vẻ khách quan. Nhưng tính khách quan lại hẹp hơn vẻ bề ngoài. Phương trình này đã ngầm kể một câu chuyện về những gì thực sự quan trọng. Tại sao tín dụng chiếm 45% điểm số? Tại sao tiềm năng kinh doanh chỉ chiếm 20%? Tại sao sự giàu có của khu phố bị loại trừ nhưng thành tích tài chính trước đây lại được ưu tiên? Câu trả lời rất đơn giản: bởi vì tổ chức đã quyết định rằng lợi nhuận tài chính là điều tốt đẹp nhất. Những gì trông giống như toán học trung lập đã là một trật tự đạo đức của thế giới. Bây giờ, hãy xem xét trường hợp tổ chức áp dụng triết lý kinh doanh năng động hơn. Thay vì khen thưởng sự ổn định hiện tại, tổ chức quyết định khen thưởng tiềm năng tương lai. Họ thay đổi công thức tính điểm: Điểm tăng trưởng = 0,20 (Tín dụng) + 0,20 (Ổn định thu nhập) + 0,60 (Tiềm năng kinh doanh). Điểm số mới là: A = 0,20(7,8) + 0,20(9) + 0,60(6) = 6,96; B = 0,20(7,2) + 0,20(7) + 0,60(8) = 7,64; C = 0,20(6,8) + 0,20(6) + 0,60(9) = 7,96; D = 0,20(6,4) + 0,20(5) + 0,60(8) = 7,08; E = 0,20(6,1) + 0,20(4) + 0,60(7) = 6,22. Giờ thì ngân hàng chấp thuận C, B và D. Ứng viên A, người có vẻ mạnh nhất theo các mô hình trước đó, bị loại. Dữ liệu không hề thay đổi. Phương pháp toán học cũng không hề kém chính xác hơn. Sự khác biệt duy nhất là mô hình giờ đây mã hóa một câu trả lời khác cho một câu hỏi khác. Nó không còn hỏi, "Ai trông an toàn nhất?" nữa, mà hỏi, "Ai có vẻ có khả năng xây dựng tương lai nhất?" Sự thay đổi đó phản ánh niềm tin rằng tiềm năng tiềm tàng quan trọng hơn lợi thế đã được thiết lập. Đó là một thế giới quan khác biệt nữa. Cuối cùng, giả sử bây giờ ngân hàng nhận ra rằng các chỉ số truyền thống - lịch sử tín dụng, sự ổn định thu nhập, vị trí - thường phản ánh đặc quyền xã hội tích lũy nhiều như năng lực cá nhân. Ngân hàng quyết định rằng một quy trình quyết định công bằng không chỉ nên dự đoán sự an toàn. Nó cũng nên điều chỉnh cho sự loại trừ mang tính cấu trúc. Ngân hàng xây dựng điểm số sau: Điểm Công bằng = 0,30 (Tiềm năng Kinh doanh) + 0,20 (Ổn định Thu nhập) + 0,15 (Tín dụng) + 0,35 (Tính dễ bị tổn thương xã hội). Kết quả là: A = 0,30(6) + 0,20(9) + 0,15(7,8) + 0,35(1) = 5,12; B = 0,30(8) + 0,20(7) + 0,15(7,2) + 0,35(3) = 5,93; C = 0,30(9) + 0,20(6) + 0,15(6,8) + 0,35(6) = 7,02; D = 0,30(8) + 0,20(5) + 0,15(6,4) + 0,35(8) = 7,16; E = 0,30(7) + 0,20(4) + 0,15(6,1) + 0,35(9) = 6,97. Lần này, ngân hàng chấp thuận các phương án D, C và E. Theo logic tài chính cổ điển, E là ứng cử viên kém hấp dẫn nhất. Theo mô hình hướng đến sự công bằng, E trở nên khả thi để được tài trợ. Một lần nữa, toán học vẫn hoạt động hiệu quả. Ngược lại, toán học đang hoạt động chính xác như thiết kế. Nó đang chuyển đổi cam kết của tổ chức thành quy tắc quyết định. Cam kết ở đây là sự công bằng không nằm ngoài mô hình; nó là một phần của những gì mô hình đang cố gắng đạt được. Điều này không làm cho mô hình bớt tính toán học hơn. Nó làm rõ những gì mà tất cả các mô hình đều âm thầm chứa đựng: một lý thuyết về những gì đáng được tính đến. Một lý thuyết về loại thế giới nào quan trọng. Sử dụng cùng một nhóm người, cùng các biến số và cùng một phương pháp nghiên cứu chính thức, chúng tôi thu được năm kết quả hợp lý khác nhau: Ngân hàng 1 chấp thuận A, B, C; Ngân hàng 2 chấp thuận C, B, D; Ngân hàng 3 chấp thuận D, C, E. Đây không phải là sự thất bại của toán học. Đây là sự vận hành đúng đắn của toán học trong các khuôn khổ chuẩn mực khác nhau. Toán học không cho chúng ta biết thế giới là gì. Nó cho chúng ta biết thế giới trông như thế nào một khi chúng ta đã quyết định điều gì là quan trọng trong đó. Quyết định đó xuất hiện ở mọi giai đoạn: vấn đề đang được giải quyết là gì, kết quả nào đáng được tối ưu hóa, biến số nào được coi là có liên quan, mỗi biến số nhận được trọng số bao nhiêu, những sự đánh đổi nào là chấp nhận được, liệu bất bình đẳng là nhiễu hay là một tín hiệu đạo đức, liệu tương lai nên được đánh giá dựa trên các khuôn mẫu trong quá khứ hay được hình dung theo cách khác, ETC Đây không phải là những quyết định toán học. Đây là những quyết định của con người. Toán học chỉ đơn thuần là công cụ để vận dụng chúng vào thực tiễn. Thực ra, tôi đã đưa ra một quyết định tương tự khi viết bài báo này: hành động "chuẩn hóa" dữ liệu - chuyển đổi điểm tín dụng 640 thành 6.4 - là một hành động quản trị ngầm. Bằng cách chọn thang đo tuyến tính thay vì thang đo đường cong, chúng ta quyết định rằng mọi điểm tín dụng đều bình đẳng. Chúng ta chọn ra "điểm thấp nhất". Khi làm như vậy, chúng ta có thể xóa bỏ về mặt toán học sự nỗ lực của những người ở rìa hoặc phóng đại sự xuất sắc của những người ở đỉnh cao. Sự thiên vị không chỉ nằm ở trọng số chúng ta gán cho các con số, mà còn ở hình dạng chúng ta gán cho các con số trước khi trọng số được áp dụng. Niềm tin rằng các mô hình AI là trung lập không phải là vô hại. Nó cho phép các công ty và tổ chức ngụy trang sự phán xét thành tính tất yếu. Nó cho phép các ưu tiên được trình bày như sự thật, và các sự đánh đổi như những nhu cầu kỹ thuật thiết yếu. Nó chuyển trách nhiệm từ người ra quyết định sang hệ thống, như thể chính phương trình đã lên tiếng. Khi các hệ thống thuật toán được sử dụng để phân bổ tín dụng, xếp hạng ứng viên, dự đoán rủi ro, phân bổ nguồn lực hoặc lọc thông tin, người ta dễ có xu hướng coi sự hình thức hóa toán học như thể đó là sự chính xác về mặt đạo đức. Tuy nhiên, điều ngược lại thường đúng: Mô hình càng phức tạp về mặt toán học, thì thế giới quan được nhúng trong thiết kế của nó càng dễ biến mất sau uy quyền của sự phức tạp kỹ thuật, đặc biệt khi các lựa chọn mô hình cơ bản quyết định điều gì được tính, điều gì bị bỏ qua và điều gì được tối ưu hóa không còn hiển thị nữa. Sự mờ ám này hoạt động ở ít nhất ba cấp độ: cấu trúc, nhận thức luận và thể chế. Khi các mô hình trở nên phức tạp hơn, các lựa chọn chuẩn mực định hình chúng được phân bổ trên nhiều thành phần kỹ thuật thay vì xuất hiện trong một công thức rõ ràng. Trong một mô hình đơn giản, người ta thường có thể xác định trực tiếp các biến, trọng số, ngưỡng và mục tiêu. Trong một hệ thống phức tạp hơn, những lựa chọn tương tự được phân bổ trên việc thu thập dữ liệu, lựa chọn đặc trưng, ​​xây dựng mô hình thay thế, thiết kế kiến ​​trúc, hàm mục tiêu, siêu tham số, quy tắc lọc và cơ chế xử lý hậu kỳ. Điều này tạo ra sự thiếu rõ ràng về cấu trúc. Kết quả là, thế giới quan của mô hình không biến mất. Nó trở nên khó xác định hơn. Điều quan trọng vẫn đang được quyết định, nhưng những quyết định đó giờ đây được lồng ghép vào các lớp thiết kế khó có thể xem xét toàn diện. Một lớp mờ ảo thứ hai đến từ những hạn chế về những gì người quan sát thực sự có thể biết về logic nội tại của mô hình. Ngay cả khi một hệ thống AI hoạt động tốt, vẫn có thể không rõ lý do tại sao nó lại đạt được một kết quả cụ thể, biến số nào thực sự có ảnh hưởng, các mối tương quan được sử dụng như thế nào, hoặc hệ thống AI đã học cách ưu tiên những sự đánh đổi nào. Điều này quan trọng bởi vì tính mờ ám không chỉ là vấn đề bí mật. Nó còn là vấn đề về khả năng hiểu. Một mô hình có thể hoàn toàn có sẵn về mặt kỹ thuật nhưng vẫn không thể tiếp cận được về mặt khái niệm. Đó là tính mờ ám về mặt nhận thức. Chúng ta có thể nhìn thấy mã nguồn mà không thể tái cấu trúc lập luận theo cách làm cho các phán đoán được nhúng bên trong trở nên dễ hiểu hoặc có thể tranh luận được. Lớp thứ ba xuất phát từ bối cảnh xã hội mà các mô hình được triển khai. Hầu hết những người bị ảnh hưởng bởi một mô hình không phải là người thiết kế nó, không thể kiểm toán nó, và thường thậm chí không biết những giả định nào chi phối nó. Trên thực tế, quyền truy cập vào các lựa chọn mô hình liên quan thường được phân bổ không đồng đều giữa các tổ chức, nhà cung cấp, cơ quan quản lý, nhóm kỹ thuật và người dùng cuối. Điều này có nghĩa là tính xác thực của mô hình thường được chấp nhận mà không có sự minh bạch thực sự về các lựa chọn giá trị đã định hình nên nó. Những gì xuất hiện như là kết quả kỹ thuật trung lập trên thực tế có thể phản ánh các ưu tiên của tổ chức, các ràng buộc về quy định, các động cơ thương mại hoặc các thành kiến ​​lịch sử vẫn còn ẩn giấu đối với những người chịu sự chi phối của quyết định. Đây chính là điểm mấu chốt của sự thiếu minh bạch về mặt thể chế. Quan niệm phổ biến cho rằng toán học hé lộ thực tại bằng cách loại bỏ tính chủ quan. Trên thực tế, toán học thường làm điều quan trọng hơn: nó ổn định cách diễn giải thế giới mà chúng ta mong muốn và biến nó thành hành động. Đó là lý do tại sao câu hỏi quan trọng nhất cần đặt ra về một mô hình AI không chỉ là "Nó có chính xác không?" mà còn là "Chính xác cho mục đích gì?". Không chỉ là "Nó có dự đoán tốt không?" mà còn là "Phục vụ mục tiêu nào?". Không chỉ là "Nó có được tối ưu hóa không?" mà còn là "Được tối ưu hóa theo giá trị của ai?". Đây không phải là những câu hỏi thứ yếu được thêm vào sau khi công việc kỹ thuật hoàn thành. Chúng là điều kiện tiên quyết cho công việc kỹ thuật dựa trên sự chính trực. Toán học mạnh mẽ chính vì nó có thể mang lại hình thức, tính nhất quán và sức mạnh cho phán đoán của con người. Nhưng đó cũng là lý do tại sao sự khiêm tốn là cần thiết. Khi chúng ta quên rằng các mô hình được xây dựng từ những lựa chọn, chúng ta bắt đầu nhầm lẫn thiết kế của mình với tính trung lập. Và đó là điểm mấu chốt: Toán học không định nghĩa thế giới. Chính thế giới mà chúng ta định nghĩa bằng toán học. Đó chính là lý do tại sao Tính toàn vẹn nhân tạo lại quan trọng hơn Trí tuệ nhân tạo. Tính toàn vẹn nhân tạo rất quan trọng vì nó hướng đến việc khôi phục một tầng nhận thức đã bị lãng quên, một tầng nhận thức trở nên khó tiếp cận khi chúng ta đã bình thường hóa sự sai lệch giữa những gì chúng ta tạo ra và thực tại. Nếu thiếu đi sự toàn vẹn nhân tạo, trí tuệ nhân tạo đang củng cố con đường biến các mục tiêu cục bộ thành các hệ thống thuật toán toàn diện, và các giả định ngẫu nhiên thành các chuẩn mực vô hình. Điều này nhắc nhở chúng ta rằng thách thức không chỉ đơn thuần là xây dựng các hệ thống AI mạnh mẽ hơn, mà còn là đảm bảo rằng logic mà chúng mở rộng sẽ làm sâu sắc thêm khả năng nhận thức của chúng ta, để chúng ta có thể nhìn thấy và thừa nhận khoảng cách trung lập mà chúng ta đã bình thường hóa trong khi nhầm lẫn nó với sự trung lập và giữ vững ý thức về tính toàn vẹn của thế giới mà chúng ta đang sống.