Một rò rỉ vô tình hé lộ rằng Flock, công ty sở hữu camera tại hàng nghìn cộng đồng ở Mỹ, đang sử dụng công nhân tại Philippines để xem xét và phân loại cảnh quay. Flock, công ty chuyên hệ thống đọc biển số tự động và camera tích hợp AI, thuê lao động nước ngoài qua Upwork để huấn luyện thuật toán học máy, với tài liệu hướng dẫn chỉ cách họ xem và phân loại cảnh quay, bao gồm hình ảnh người và phương tiện tại Hoa Kỳ, theo tài liệu do 404 Media xem xét và bị lộ do lỗi của công ty.

Phát hiện này đặt ra câu hỏi về việc ai chính xác đang có quyền truy cập cảnh quay thu thập bởi các camera giám sát của Flock và những người xem xét cảnh quay có thể đang ở đâu. Flock đã trở thành công nghệ phổ biến tại Mỹ, với camera xuất hiện ở hàng nghìn cộng đồng mà cảnh sát dùng hằng ngày để điều tra các vụ như cướp xe. Cảnh sát địa phương cũng đã thực hiện vô số tra cứu cho ICE trong hệ thống.

Các công ty dùng AI hoặc học máy thường xuyên dựa vào lao động nước ngoài để huấn luyện thuật toán, thường vì chi phí thấp hơn so với tuyển dụng nội địa. Nhưng tính chất kinh doanh của Flock—tạo ra hệ thống giám sát liên tục theo dõi chuyển động của cư dân Mỹ—đồng nghĩa cảnh quay có thể nhạy cảm hơn nhiều so với các công việc huấn luyện AI khác.

Camera của Flock liên tục quét biển số, màu sắc, thương hiệu và mẫu của mọi phương tiện đi qua. Cơ quan thực thi pháp luật sau đó có thể tìm kiếm camera trên toàn quốc để xem phương tiện đó đã chạy ở đâu khác. Giới chức thường đào sâu dữ liệu này mà không cần lệnh khám xét, khiến Liên đoàn Tự Do Dân Sự Mỹ (ACLU) và Electronic Frontier Foundation (EFF) gần đây kiện một thành phố bị “phủ kín” gần 500 camera Flock.

Nói rộng hơn, Flock dùng AI hoặc học máy để tự động phát hiện biển số, phương tiện và người, bao gồm cả trang phục họ mặc, từ cảnh quay camera. Một bằng sáng chế của Flock cũng đề cập đến camera phát hiện “chủng tộc”.

Nhiều nguồn tin đã chỉ 404 Media đến một bảng điều khiển trực tuyến bị lộ, hiển thị các chỉ số liên quan đến huấn luyện AI của Flock.

Bảng này gồm các số liệu về “số chú thích đã hoàn thành” và “nhiệm vụ của người gắn nhãn còn trong hàng đợi”, với “chú thích” là ghi chú mà công nhân thêm vào cảnh quay đã xem để giúp huấn luyện thuật toán AI. Nhiệm vụ gồm phân loại hãng xe, màu sắc và chủng loại, chép biển số, và “nhiệm vụ âm thanh”. Gần đây Flock bắt đầu quảng bá tính năng phát hiện “tiếng la hét”. Bảng cho thấy công nhân đôi khi hoàn thành hàng nghìn chú thích trong khoảng thời gian hai ngày.

Bảng điều khiển bị lộ còn bao gồm danh sách người được giao gắn nhãn cảnh quay của Flock. Dựa vào các tên này, 404 Media phát hiện một số người ở Philippines, theo LinkedIn và hồ sơ trực tuyến khác của họ.

Nhiều người trong số này được thuê qua Upwork, theo tài liệu bị lộ. Upwork là nền tảng gig và làm việc tự do nơi các công ty có thể thuê thiết kế, viết lách hoặc trả tiền cho “dịch vụ AI”, theo website của Upwork.

Nguồn tin cũng chỉ đến nhiều bản trình bày công khai của Flock giải thích chi tiết cách công nhân phân loại cảnh quay. Chưa rõ chính xác cảnh quay từ camera nào mà công nhân AI của Flock đang xem. Nhưng ảnh chụp màn hình trong hướng dẫn cho công nhân cho thấy nhiều hình ảnh các phương tiện với biển số Mỹ, bao gồm ở New York, Michigan, Florida, New Jersey và California. Hình ảnh khác bao gồm biển báo đường thể hiện rõ cảnh quay được ghi tại Mỹ, và một ảnh có quảng cáo cho một hãng luật cụ thể ở Atlanta. Một slide về âm thanh yêu cầu công nhân “nghe âm thanh đến hết”, rồi chọn từ menu thả xuống gồm “tai nạn xe,” “tiếng súng” và “lái xe ẩu.” Slide khác nói tiếng rít lốp có thể liên quan đến ai đó “quay vòng” và một slide nữa cho biết vì khó phân biệt tiếng la của người lớn và trẻ em, công nhân nên dùng menu thả xuống thứ hai để nêu mức độ tự tin về những gì họ nghe, với lựa chọn như “chắc chắn” và “không chắc”. Một bộ slide khác giải thích rằng nhân viên không nên gắn nhãn người bên trong ô tô nhưng phải gắn nhãn người đi xe máy hoặc đi bộ.