Google cam kết khắc phục lỗi tạo hình ảnh sai lệch và không chính xác của Gemini

Mô hình Gemini của Google đã bị chỉ trích vì sản xuất các hình ảnh không chính xác về mặt lịch sử và sai lệch về chủng tộc, làm dấy lên lo ngại về sự thiên vị trong hệ thống AI.

Cuộc tranh cãi nảy sinh khi người dùng trên các nền tảng truyền thông xã hội tràn ngập các nguồn cấp dữ liệu với các ví dụ về việc Gemini tạo ra những bức ảnh mô tả Đức Quốc xã đa dạng về chủng tộc, các vị vua Anh thời trung cổ da đen và các tình huống khó xảy ra khác.

Mô hình tạo Google Gemini Image bị chỉ trích vì 'đánh thức'.

Gemini đã tạo ra những hình ảnh đa dạng cho những gợi ý cụ thể về mặt lịch sử, làm dấy lên những cuộc tranh luận về tính chính xác và tính toàn diện. pic.twitter.com/YKTt2YY265

- Darosham (@Darosham_) Ngày 22 tháng 2 năm 2024

Trong khi đó, các nhà phê bình cũng chỉ ra việc Gemini từ chối miêu tả người da trắng, nhà thờ ở San Francisco vì tôn trọng sự nhạy cảm của người bản địa và các sự kiện lịch sử nhạy cảm như Quảng trường Thiên An Môn năm 1989.

Để đáp lại phản ứng dữ dội, Jack Krawczyk, trưởng nhóm sản phẩm Gemini Experiences của Google, đã thừa nhận vấn đề và cam kết sẽ khắc phục. Krawczyk đã sử dụng nền tảng truyền thông xã hội X để trấn an người dùng:

Hiện tại, Google cho biết họ đang tạm dừng việc tạo hình ảnh của mọi người:

Trong khi thừa nhận sự cần thiết phải giải quyết sự đa dạng trong nội dung do AI tạo ra, một số người cho rằng phản ứng của Google là một sự điều chỉnh quá mức.

Marc Andreessen, người đồng sáng lập Netscape và a16z, gần đây đã tạo ra một mô hình AI nhại lại “cực kỳ an toàn” có tên Goody-2 LLM từ chối trả lời các câu hỏi được cho là có vấn đề. Andreessen cảnh báo về xu hướng rộng lớn hơn đối với việc kiểm duyệt và thiên vị trong các hệ thống AI thương mại, nhấn mạnh những hậu quả tiềm tàng của những phát triển đó.

Để giải quyết những tác động rộng hơn, các chuyên gia nhấn mạnh việc tập trung hóa các mô hình AI vào một số tập đoàn lớn và ủng hộ việc phát triển các mô hình AI nguồn mở để thúc đẩy sự đa dạng và giảm thiểu sự thiên vị.

Yann LeCun, nhà khoa học AI trưởng của Meta, đã nhấn mạnh tầm quan trọng của việc thúc đẩy một hệ sinh thái đa dạng của các mô hình AI giống như nhu cầu về một nền báo chí tự do và đa dạng:

Bindu Reddy, Giám đốc điều hành của Abacus.AI, cũng có những lo ngại tương tự về sự tập trung quyền lực nếu không có hệ sinh thái lành mạnh của các mô hình nguồn mở:

Khi các cuộc thảo luận xung quanh ý nghĩa đạo đức và thực tiễn của AI tiếp tục diễn ra, nhu cầu về các khuôn khổ phát triển AI minh bạch và toàn diện ngày càng trở nên rõ ràng.

(Ảnh của Matt Artz trên Bapt )

Xem thêm: Reddit được cho là đang bán dữ liệu đào tạo AI

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này được tổ chức cùng với các sự kiện hàng đầu khác bao gồm BlockX , Tuần lễ chuyển đổi kỹ thuật số và An ninh mạng & Triển lãm đám mây .

Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới khác do TechForge cung cấp tại đây .

Bài đăng Google cam kết khắc phục việc tạo hình ảnh sai lệch và không chính xác của Gemini đã xuất hiện đầu tiên trên AI News .