Manji gợi ý rằng blockchain, hoặc công nghệ sổ cái phân tán, có thể đóng vai trò như một cách để có cái nhìn rõ ràng hơn về dữ liệu khác nhau được giấu kín trong hệ thống lộn xộn của các ngân hàng truyền thống.

 

Tuy nhiên, ông nói thêm rằng các ngân hàng – vốn là những tổ chức hoạt động chậm chạp, được quản lý chặt chẽ – không có khả năng di chuyển với tốc độ tương tự như các đối tác công nghệ nhanh nhẹn hơn của họ trong việc áp dụng các công cụ AI mới.

 

“Bạn đã có Microsoft và Google, những người như trong một hoặc hai thập kỷ qua đã được coi là thúc đẩy sự đổi mới. Họ không thể theo kịp tốc độ đó. Và sau đó bạn nghĩ về các dịch vụ tài chính. Các ngân hàng không được biết đến là nhanh chóng,” Manji nói.

 

Rumman Chowdhury, cựu giám đốc đạo đức học máy, tính minh bạch và trách nhiệm giải trình của Twitter, nói rằng việc cho vay là một ví dụ điển hình về cách một hệ thống AI có thể chống lại sự thiên vị của các cộng đồng bị thiệt thòi.

 

“Sự phân biệt đối xử theo thuật toán thực sự rất hữu hình trong việc cho vay,” Chowdhury cho biết trên một hội thảo tại Money20/20 ở Amsterdam. “Chicago từng có lịch sử từ chối [các khoản vay] đó theo đúng nghĩa đen đối với các khu dân cư chủ yếu là người Da đen.”

 

Vào những năm 1930, Chicago được biết đến với thực tiễn phân biệt đối xử “redlining”, trong đó khả năng trả nợ của các tài sản được quyết định chủ yếu bởi nhân khẩu học chủng tộc của một khu vực lân cận nhất định.

 

“Sẽ có một tấm bản đồ khổng lồ trên tường của tất cả các quận ở Chicago, và họ sẽ vẽ các đường màu đỏ qua tất cả các quận chủ yếu là người Mỹ gốc Phi và không cho họ vay,” cô nói thêm.

 

“Quay nhanh vài thập kỷ sau, và bạn đang phát triển các thuật toán để xác định mức độ rủi ro của các khu vực và cá nhân khác nhau. Và mặc dù bạn có thể không bao gồm điểm dữ liệu về chủng tộc của ai đó, nhưng nó vẫn được chọn một cách ngầm định.”

 

Thật vậy, Angle Bush, người sáng lập Phụ nữ Da đen trong Trí tuệ Nhân tạo, một tổ chức nhằm trao quyền cho phụ nữ Da đen trong lĩnh vực AI, nói rằng khi các hệ thống AI được sử dụng cụ thể cho các quyết định phê duyệt khoản vay, cô ấy nhận thấy rằng có nguy cơ sao chép các hệ thống hiện có. những sai lệch hiện diện trong dữ liệu lịch sử được sử dụng để đào tạo các thuật toán.

 

Bush nói thêm: “Điều này có thể dẫn đến việc các cá nhân từ các cộng đồng bị thiệt thòi tự động bị từ chối cho vay, củng cố sự chênh lệch về chủng tộc hoặc giới tính. Bà nói: “Điều quan trọng là các ngân hàng phải thừa nhận rằng việc triển khai AI như một giải pháp có thể vô tình kéo dài sự phân biệt đối xử.

 

Frost Li, một nhà phát triển đã làm việc trong lĩnh vực AI và máy học trong hơn một thập kỷ, nói rằng khía cạnh “cá nhân hóa” của tích hợp AI cũng có thể gặp vấn đề. Li, người sáng lập và điều hành Loup, một công ty giúp các nhà bán lẻ trực tuyến tích hợp AI vào nền tảng của họ, cho biết: “Điều thú vị trong AI là cách chúng tôi chọn 'các tính năng cốt lõi' để đào tạo. “Đôi khi, chúng tôi chọn các tính năng không liên quan đến kết quả mà chúng tôi muốn dự đoán.”

 

Li nói, khi AI được áp dụng vào ngân hàng, sẽ khó xác định “thủ phạm” trong các sai lệch khi mọi thứ đều phức tạp trong phép tính. “Một ví dụ điển hình là có bao nhiêu công ty khởi nghiệp fintech đặc biệt dành cho người nước ngoài, bởi vì một sinh viên tốt nghiệp Đại học Tokyo sẽ không thể nhận được bất kỳ thẻ tín dụng nào ngay cả khi anh ta làm việc tại Google; nhưng một người có thể dễ dàng nhận được một suất từ hiệp hội tín dụng đại học cộng đồng vì các chủ ngân hàng biết rõ hơn về các trường địa phương,” Li nói thêm.

 

AI sáng tạo thường không được sử dụng để tạo điểm tín dụng hoặc chấm điểm rủi ro của người tiêu dùng.

 

Niklas Guske, giám đốc điều hành của Taktile, một công ty khởi nghiệp giúp fintech tự động hóa việc ra quyết định, cho biết: “Đó không phải là mục đích mà công cụ này được tạo ra. Thay vào đó, Guske cho biết các ứng dụng mạnh mẽ nhất đang xử lý trước dữ liệu phi cấu trúc như tệp văn bản - như phân loại giao dịch.

 

Guske cho biết: “Những tín hiệu đó sau đó có thể được đưa vào một mô hình bảo lãnh phát hành truyền thống hơn. “Do đó, AI sáng tạo sẽ cải thiện chất lượng dữ liệu cơ bản cho các quyết định như vậy thay vì thay thế các quy trình tính điểm thông thường". Nhưng nó cũng khó chứng minh. Apple và Goldman Sachs, chẳng hạn, bị buộc tội đưa ra giới hạn thấp hơn cho phụ nữ đối với Thẻ Apple. Nhưng những tuyên bố này đã bị Bộ Dịch vụ Tài chính New York bác bỏ sau khi cơ quan quản lý không tìm thấy bằng chứng phân biệt đối xử dựa trên giới tính.