Năm 2019, khi phóng viên của tờ New York Times, Kashmir Hill, nhận được một gợi ý về một công ty khởi nghiệp nhận diện khuôn mặt, cô đã thấy khó tin.

"Tôi không nghĩ nó có thể đúng," Hill nói. "Đó là công ty Clearview AI, tuyên bố đã thu thập hàng tỷ ảnh từ internet công cộng, mà không có sự đồng ý của mọi người, để xây dựng một cơ sở dữ liệu gồm khoảng một tỷ bức ảnh. Và công ty này đang bán một ứng dụng nhận diện khuôn mặt cho cảnh sát, với khả năng nhận diện với độ chính xác khoảng 99%."

Tuy nhiên, gợi ý này đã được chứng thực là đúng, ít nhất là với số lượng khuôn mặt mà công ty đã thu thập được. Hiện nay, công ty có một cơ sở dữ liệu gồm 30 tỷ khuôn mặt. Và trong khi công ty này đã vi phạm các quy định về quyền riêng tư ở ngoài Hoa Kỳ, Clearview AI chưa gặp nhiều sự giám sát quy định nội địa. Năm 2022, công ty khởi nghiệp này đã giải quyết vụ kiện với Hiệp Hội Tự do Dân chủ Mỹ sau khi phía sau cáo buộc công ty này vi phạm một luật bảo vệ quyền riêng tư Illinois, và như phần của thỏa thuận giải quyết, cơ sở dữ liệu của Clearview AI không thể được truy cập bởi các tổ chức tư nhân như doanh nghiệp và cá nhân. Vẫn tiếp tục được sử dụng rộng rãi bởi các cơ quan chức năng.

Trong cuốn sách của mình "Your Face Belongs to Us: A Secretive Startup's Quest to End Privacy as We Know It", Hill mô tả cuộc hành trình phóng viên của mình, bao gồm việc thâm nhập vào bên trong Clearview AI và nói chuyện với các nhà lãnh đạo của công ty này. Dưới đây là một đoạn trích xem xét về đầu cuộc điều tra của Hill về công ty nhận diện khuôn mặt.

Tháng 11 năm 2019, tôi vừa trở thành một phóng viên tại The New York Times khi tôi nhận được một gợi ý mà nghe qua có vẻ quá lố bịch để tin là đúng: Một công ty bí ẩn có tên Clearview AI tuyên bố rằng nó có thể nhận diện hầu như bất cứ người nào chỉ dựa trên một bức ảnh chụp khuôn mặt của họ.

Tôi đang ở trong một phòng khách sạn ở Thụy Sĩ, đang mang thai 6 tháng, khi tôi nhận được email. Đó là cuối ngày dài và tôi đã mệt nhưng email này đã làm tôi bất ngờ. Nguồn tin của tôi đã khám phá ra một bản ghi pháp lý được đánh dấu "Riêng tư và Bí mật" trong đó một luật sư đại diện cho Clearview đã nói rằng công ty này đã thu thập hàng tỷ bức ảnh từ mạng web công cộng, bao gồm các trang mạng xã hội như Facebook, Instagram và LinkedIn, để tạo ra một ứng dụng cách mạng. Cho Clearview một bức ảnh của một người bất kỳ trên đường phố, và nó sẽ trả lại tất cả những nơi trên internet mà nó đã điểm chấm khuôn mặt của họ, có thể tiết lộ không chỉ tên của họ mà còn là các thông tin cá nhân khác về cuộc sống của họ.

Công ty đã bán "siêu sức mạnh" này cho các sở công an trên toàn quốc nhưng cố gắng giữ bí mật về sự tồn tại của nó.

Không lâu trước đây, công nghệ nhận diện khuôn mặt tự động là một công nghệ đen tối chỉ liên quan đến tiểu thuyết khoa học viễn tưởng hoặc các bộ phim như Minority Report mà hầu hết mọi người chỉ nghĩ đến. Các kỹ sư đã đầu tiên cố gắng biến nó trở thành hiện thực vào những năm 1960, cố gắng lập trình một máy tính sớm để so khớp hình chân dung của ai đó với một cơ sở dữ liệu lớn hơn về khuôn mặt của mọi người. Vào đầu những năm 2000, cảnh sát bắt đầu thử nghiệm công nghệ này để tìm kiếm khuôn mặt của các đối tượng tội phạm không xác định trong cơ sở dữ liệu hình như tại hiện trường. Tuy nhiên, công nghệ này đã chứng minh thất vọng phần lớn. Hiệu suất của nó thay đổi theo chủng tộc, giới tính và tuổi tác, thậm chí các thuật toán tiên tiến nhất cũng gặp khó khăn trong việc làm một điều đơn giản như so khớp một bức hình chụp với một hình ảnh giám sát mờ nhạt từ máy ATM. Clearview khẳng định mình là khác biệt, tự hào với "tỷ lệ chính xác 98,6%" và một bộ sưu tập hình ảnh khổng lồ không giống bất cứ thứ gì mà cảnh sát đã từng sử dụng trước đó.

Nếu thật sự là như vậy, tôi nghĩ trong đầu khi tôi đọc và đọc lại bản ghi nhớ Clearview này không bao giờ được định công. Tôi đã viết về quyền riêng tư và sự xâm phạm không ngừng của nó suốt hơn một thập kỷ. Tôi thường mô tả lĩnh vực của mình là "thế giới đen tối công nghệ sắp tới - và cách chúng ta có thể cố gắng tránh nó", nhưng tôi chưa từng thấy một cuộc tấn công can đảm nào đối với sự vô danh như vậy trước đây.

Quyền riêng tư, một khái niệm rất khó định nghĩa, đã được mô tả nổi tiếng nhất trong bài báo của Harvard Law Review vào năm 1890 như là "quyền được để yên". Hai luật sư đã viết bài này, Samuel D. Warren, Jr. và Louis D. Brandeis, đòi hỏi quyền riêng tư được bảo vệ bằng luật pháp, cùng với những quyền khác - quyền sống, quyền tự do và quyền sở hữu riêng tư - đã được công nhận từ trước. Họ được truyền cảm hứng từ một công nghệ lúc đó còn mới mẻ - máy ảnh phim di động Eastman Kodak, được phát minh vào năm 1888, cho phép chụp ảnh bên ngoài phòng studio về đời sống hàng ngày - cũng như từ những người như tôi, một thành viên của báo chí xáo lạc.

"Ảnh chụp tức thì và công ty báo chí đã xâm nhập vào các lĩnh vực thánh địa của cuộc sống riêng tư và gia đình," Warren và Brandeis viết, "và các thiết bị cơ khí nguy hiểm đe dọa làm trở thành hiện thực câu nói "những gì được thì thầm trong tủ có thể được công bố trên mái nhà".

Bài viết này là một trong những bài luận văn pháp lý nổi tiếng nhất từng được viết, và Louis Brandeis đã tiếp tục gia nhập Tòa án Tối cao. Tuy nhiên, quyền riêng tư không bao giờ được bảo vệ theo cách mà Warren và Brandeis đã nói rằng nó xứng đáng. Hơn một thế kỷ sau đó, vẫn chưa có luật pháp toàn diện đảm bảo người Mỹ kiểm soát được những bức ảnh chụp về họ, những điều được viết về họ, hoặc những gì được làm với dữ liệu cá nhân của họ. Trong khi đó, các công ty đặt trụ sở tại Hoa Kỳ - và các nước khác có luật riêng tư yếu kém - đang tạo ra những công nghệ ngày càng mạnh mẽ và xâm phạm.

Nhận dạng khuôn mặt đã nằm trong tầm ngắm của tôi trong một thời gian dài. Suốt sự nghiệp của tôi, ở những nơi như Forbes và Gizmodo, tôi đã viết về các dịch vụ mới đáng kể từ các công ty hàng tỷ đô la: Facebook tự động gắn nhãn bạn bè của bạn trong ảnh; Apple và Google cho phép mọi người nhìn vào điện thoại của họ để mở khóa; bảng quảng cáo kỹ thuật số từ Microsoft và Intel với camera nhận diện tuổi tác và giới tính để hiển thị quảng cáo phù hợp với người qua đường.

Tôi đã viết về cách công nghệ đôi khi gượng gạo và dễ gây lỗi này làm phấn khích các cơ quan thực thi pháp luật và ngành công nghiệp, nhưng khiến người dân quan tâm đến quyền riêng tư hoảng sợ. Khi tôi tiếp thu những gì mà Clearview tuyên bố nó có thể làm được, tôi nhớ về một hội thảo liên bang mà tôi đã tham dự nhiều năm trước tại Washington DC, nơi đại diện của ngành công nghiệp, quan chức chính phủ và những người ủng hộ quyền riêng tư đã ngồi lại để đề ra quy tắc điều hành. Điều duy nhất mà tất cả đều đồng ý là không ai nên tung ra một ứng dụng để nhận dạng người lạ. Họ nói rằng điều đó quá nguy hiểm. Một kẻ lập dị tại quán bar có thể chụp ảnh bạn và chỉ sau vài giây biết ai trong số bạn bè của bạn và bạn sống ở đâu.

Công nghệ phân biệt khuôn mặt chính xác, trên quy mô hàng trăm triệu người hoặc hàng tỷ người là một việc gây tranh cãi lớn. Nó có thể được sử dụng để nhận dạng những người biểu tình chống chính phủ hoặc những người phụ nữ đến các phòng khám của Planned Parenthood. Nó sẽ trở thành một loại vũ khí gây quấy rối và đe dọa. Và giờ đây, Clearview, một thành viên không được biết đến trong lĩnh vực này, đã tuyên bố rằng họ đã xây dựng thành công công nghệ này.

Tôi từng nghi ngờ. Các công ty khởi nghiệp thường nổi tiếng với những tuyên bố phô trương nhưng sau đó lại chỉ là cách bán dầu rắn. Ngay cả Steve Jobs cũng từng giả bộ về khả năng của chiếc iPhone gốc khi ông lần đầu tiên trình diễn nó trên sân khấu vào năm 2007. Chúng ta có xu hướng tin rằng máy tính có những sức mạnh thần kỳ, rằng chúng có thể tìm ra giải pháp cho bất kỳ vấn đề nào và, với đủ dữ liệu, cuối cùng sẽ giải quyết nó tốt hơn con người. Vì vậy, nhà đầu tư, khách hàng và công chúng có thể bị đánh lừa bởi những tuyên bố kỳ quái và một số thủ thuật số bởi các công ty có hoài bão làm điều gì đó tuyệt vời nhưng chưa hoàn thiện.

Nhưng trong bản tường thuật pháp lý bí mật này, luật sư nổi tiếng của Clearview, Paul Clement, người đã từng là nhà trợ lý luật pháp của Hoa Kỳ dưới thời Tổng thống George W. Bush, khẳng định đã thử sản phẩm với các luật sư trong công ty của ông và "nhận thấy rằng nó trả về kết quả tìm kiếm nhanh chóng và chính xác". Clement viết rằng hơn hai trăm cơ quan thực tế luật pháp đã sử dụng công cụ này và ông đã xác định rằng họ "không vi phạm Hiến pháp liên bang hoặc các luật sinh trưởng và quyền riêng tư hiện hành của tiểu bang liên quan khi sử dụng Clearview cho mục đích đã được thiết kế". Không chỉ có hàng trăm sở cảnh sát sử dụng công nghệ này mà công ty còn thuê một luật sư tài ba để trấn an các quan chức rằng họ không phạm tội khi sử dụng công nghệ này.

Tôi đã trở lại New York với một sự sinh ra sắp xảy ra như một hạn chót. Tôi có ba tháng để khám phá đáy của câu chuyện này, và càng đào sâu, nó càng trở nên kỳ lạ hơn.

Trích từ "Khuôn mặt của bạn thuộc về chúng tôi" của Kashmir Hill. Bản quyền © 2023 của Kashmir Hill. Trích từ sự cho phép của Random House. Đã đăng trích dẫn bởi sự cho phép của nhà xuất bản. Không được sao chép hoặc tái in bất kỳ phần nào của trích dẫn này mà không có sự cho phép bằng văn bản từ nhà xuất bản.

Có rất nhiều điều đang diễn ra trên thế giới. Trong tất cả, Marketplace luôn ở đây để hỗ trợ bạn.

Bạn tin tưởng vào Marketplace để phân tích các sự kiện thế giới và cho bạn biết cách nó ảnh hưởng đến bạn một cách căn cứ vào sự thực và dễ hiểu. Chúng tôi dựa vào sự hỗ trợ tài chính của bạn để tiếp tục thực hiện điều đó.

Đóng góp của bạn hôm nay là nguồn sức mạnh cho báo chí độc lập mà bạn đang tin cậy. Chỉ với 5 đô la/tháng, bạn có thể giúp duy trì Marketplace để chúng tôi có thể tiếp tục báo cáo về những vấn đề quan trọng đối với bạn.