Kết nối với chúng tôi:

Công nghệ

Điểm yếu của Facebook

Đã đăng

 ngày

 
Chiến dịch chống phát ngôn thù hận đã làm lộ điểm yếu của Facebook, buộc Mark Zuckerberg phải có động thái trong vòng chưa đầy hai giờ đồng hồ.

Nội dung thù hận được hiểu là những phát ngôn tiêu cực, nhằm tấn công, sỉ nhục một người hoặc nhóm “nạn nhân” nào đó với mục đích reo rắc lòng thù ghét, kêu gọi, kích động bạo lực đối với cá nhân hoặc nhóm cá nhân này, vì lý do tôn giáo, sắc tộc, giới tính, quan điểm chính trị…

Facebook đang vướng phải làn sóng tẩy chay từ #StopHateForProfit, chiến dịch kêu gọi các công ty ngừng hoạt động quảng cáo trên Facebook. Chiến dịch này khởi được khởi xướng từ sau cái chết của công dân da màu George Floyd hồi tháng 5. Nguyên nhân được cho là bởi quy trình kiểm duyệt lỏng lẻo của mạng xã hội này với bài đăng mang tính kích động bạo lực, reo rắc lòng thù ghét của Tổng thống Trump.

Thứ sáu tuần trước, tập đoàn Unilever, một trong những “ông lớn” chịu chi ngân sách quảng cáo cao nhất thế giới, đột ngột tuyên bố dừng mọi quảng cáo đang chạy trên nền tảng Facebook, Instagram và Twitter ở Mỹ.

Công ty cho hay, trong bối cảnh còn nhiều bất công tại Mỹ, việc quan trọng cần làm là giải quyết “những phát ngôn thù hận và mang tính chia rẽ. Việc tiếp tục chạy quảng cáo trên các nền tảng như Facebook, Instagram hay Twitter lúc này sẽ chẳng mang thêm giá trị gì cho con người và xã hội”.

Mark Zuckerberg nhanh chóng hành động sau khi các nhà quảng cáo tuyên bố gỡ quảng cáo khỏi nền tảng Facebook. Ảnh: AP.
Mark Zuckerberg nhanh chóng hành động sau khi các công ty tuyên bố gỡ quảng cáo khỏi Facebook. Ảnh: AP.

Chưa đầy hai giờ sau tuyên bố của Unilever, Facebook đã lập tức phản hồi.

Mark Zuckerberg đã phát trực tiếp ngay trên trang Facebook cá nhân của ông để trao đổi về khía cạnh công bằng sắc tộc tại công ty. Với phong thái có phần nhún nhường, Zuckerberg tuyên bố một loạt chính sách mới, trong đó có lệnh cấm những nội dung gây thù hận nhắm vào người nhập cư, đồng thời hạn chế các bài đăng đưa thông tin sai lệch về bầu cử.

Asad Moghal, nhà quản lý nội dung và kỹ thuật số tại công ty tư vấn Byfield, cho hay, mọi động thái của Unilever luôn có sức mạnh buộc Zuckerberg phải đáp trả. “Với những nước đi ‘đánh’ vào tài chính, một công ty mang tầm cỡ Unilever có thể tạo ra thay đổi, buộc Twitter và Facebook đưa ra quyết định. Doanh nghiệp xác định họ cần bảo vệ danh tiếng thương hiệu và không thể tiếp tục đồng hành cùng những nền tảng lan truyền phát ngôn thù hận hay nội dung mang tính chia rẽ, reo rắc lòng căm thù. Nhưng thay đổi thực sự có thể diễn ra là khi động thái này tạo nên hiệu ứng domino, khiến nhiều tập đoàn tên tuổi khác ngưng đầu tư vào các nền tảng đó”, ông nói.

Nội dung thông báo của Facebook đánh dấu thái độ nhượng bộ ban đầu với chiến dịch #StopHateForProfit.

Tuy nhiên, nhóm những người đứng đầu phong trào tẩy chay Facebook cho rằng nội dung thay đổi mà Facebook đưa ra vẫn chưa thỏa đáng. Họ tiếp tục kêu gọi thêm nhiều tập đoàn lớn có ngân sách quảng cáo “khủng” ngừng mọi hoạt động trên nền tảng này trong một tháng, bắt đầu từ ngày 1/7.

Mối nguy hiểm thực sự dành cho Facebook là khi các thương hiệu khác quyết định họ có thể tiếp tục hoạt động quảng cáo mà không cần đến mạng xã hội lớn nhất hành tinh.

Chính sách kiểm duyệt của Facebook

Facebook đã đưa ra các quy định kiểm duyệt có phần lỏng lẻo hơn đối với các phát ngôn thù hận, kích động lòng căm ghét, so với những nội dung gây tranh cãi khác, như ảnh khỏa thân… Một phần lý do là do sự mơ hồ, mập mờ vốn có trong lời nói xúc phạm và một phần nằm ở khó khăn trong khâu tự động kiểm duyệt.

Việc xác định đâu là phát ngôn thù hận đòi hỏi kiến thức về ngữ cảnh, tập quán và văn hóa. Điều này rất khó khi hướng dẫn kiểm duyệt viên là con người, chứ chưa nói đến huấn luyện máy móc thực hiện.

Những năm gần đây, Facebook đã có những bước tiến trong việc kiểm duyệt nội dung. Trong quý III/2017, theo báo cáo về tiêu chuẩn cộng đồng của công ty, Facebook tự phát hiện 25% số phát ngôn thù hận; 75% còn lại được gỡ bỏ sau khi người dùng gắn cờ báo cho bộ phận kiểm duyệt.

Năm nay, tỷ lệ đã đảo ngược. 88% nội dung gây thù hận được gỡ bỏ khỏi Facebook nhờ công cụ của chính nền tảng này, gấp 4 lần so với 2 năm trước.

Tuy nhiên, đội ngũ chuyên gia kỹ thuật của họ lại đối mặt với một yếu tố khác: Tổng thống Mỹ.

Trở lại năm 2015, theo báo cáo của Washington Post, các mạng xã hội phải vật lộn tìm cách ứng phó với một người đàn ông, ban đầu là ứng viên tranh cử và sau đó trở thành tổng thống Mỹ. Người này từ đó thắt chặt hạn chế về nội dung mạng xã hội được phép đăng tải.

Facebook đã liên tục điều chỉnh các quy tắc riêng của mình để tránh chọc giận Tổng thống. Công ty ra mắt ngoại lệ về “diễn ngôn chính trị” năm 2015, giữ nguyên trên nền tảng một video kêu gọi lệnh cấm người Hồi giáo đặt chân đến nước Mỹ…

Trong bối cảnh diễn ra nhiều cuộc biểu tình sau cái chết của Floyd, Tổng thống Trump một lần nữa muốn thử thách các giới hạn, bằng việc đăng lên Facebook và Twitter thông điệp rằng “khi nạn cướp bóc xuất hiện, súng cũng sẽ nổ”.

Twitter nhận ra ý nghĩa sự phân biệt chủng tộc ẩn sau câu nói đó và hiểu đây có thể là lời kêu gọi bạo lực. Vì lẽ đó, nền tảng này thực thi một chính sách đã được ban hành năm ngoái dành cho những trường hợp tương tự: Hạn chế dòng tweet, ngăn người dùng khác tweet lại hay thậm chí ấn thích, đồng thời cảnh báo nội dung đã vi phạm chính sách của Twitter. Dòng tweet của tổng thống Trump không bị gỡ bỏ do được coi là có giá trị tin tức từ Tổng thống với hàng triệu người theo dõi.

Thế nhưng trên Facebook, bài đăng hoàn toàn không gặp vấn đề gì. Trên trang cá nhân của mình, Zuckerberg viết rằng anh ta không coi lời tuyên bố này là động thái kích động bạo lực mà chỉ là “lời cảnh báo về hành động tiếp theo của chính phủ”. Zuckerberg cho hay: “Không giống Twitter, chúng tôi không có chính sách đưa ra cảnh báo đối với bài đăng có thể kích động bạo lực, vì chúng tôi tin rằng nếu một bài đăng thực sự kích động bạo lực phải được gỡ bỏ luôn thay vì chỉ bị dán nhãn cảnh báo”.

Quyết định này của Facebook làm dấy lên làn sóng phẫn nộ xoay quanh những vấn đề lớn hơn khi kiểm duyệt nội dung gây thù hận trên nền tảng, cũng như hành động bảo vệ một bài đăng khác của Trump từ Zuckerberg một tuần trước đó.

Các nhân viên Facebook bắt đầu lên tiếng trên các phương tiện truyền thông xã hội, tổ chức một cuộc “tuần hành ảo” nhằm nhấn mạnh rằng việc Facebook “không làm bất cứ điều gì là không thể chấp nhận được”. Nhiều quản trị viên mới được tuyển dụng cũng tham gia vào cuộc “tuần hành ảo” này, bất chấp nguy cơ bị sa thải, chỉ để công khai chỉ trích “những đặc quyền dành cho người da trắng và việc hợp pháp hóa sự tàn bạo của chính phủ”. Ngay cả các nhà khoa học vốn được tài trợ bởi quỹ từ thiện cá nhân mang tên Chan Zuckerberg Initiative của vợ chồng Zuckerberg cũng lên tiếng.

Đáp trả, tháng 5 vừa qua, Zuckerberg đã chỉ định một ban giám sát – gồm nhiều chuyên gia nắm trong tay quyền lật ngược các quyết định điều hành Facebook của vị CEO này. Những cái tên trong ban giám sát có thể kể đến cựu Thủ tướng Đan Mạch, Helle Thorning-Schmidt; chủ nhân giải Nobel hòa bình, Tawakkol Karman và cựu Tổng biên tập tờ Guardian, Alan Rusbridger.

Tuy nhiên, quá trình thành lập ban giám sát trong thời điểm bùng nổ đại dịch Covid-19 gặp nhiều khó khăn, đồng nghĩa với việc họ chưa thể giúp Zuckerberg trút ngay được áp lực và chỉ trích.

Chris Zoos, chuyên gia đầu ngành đang giảng dạy tại trường Kinh doanh Saïd thuộc Đại học Oxford, cho rằng “chiến lược của Zuckerberg khi đối phó với Trump là sự kết hợp có phần lệch nhịp giữa hai hướng lãnh đạo”. Một mặt Zuckerberg muốn tìm “hướng lãnh đạo thực tiễn nhằm xoa dịu căng thẳng” từ chính nhân viên của mình, mặt khác lại “gia tăng quyền lực áp đặt các nguyên tắc”. Zuckerberg đã thử cả hai nhưng chẳng hướng đi nào thành công.

Chẳng ai có thể gạt Zuckerberg ra khỏi vị trí hiện tại. Dù chỉ sở hữu 14% cổ phần công ty, nhưng loại cổ phần đặc biệt mà Zuckerberg sở hữu cho phép ông kiểm soát 57% quyền biểu quyết tại các cuộc họp hội đồng quản trị. Thế nhưng, áp lực từ nhân viên có thể làm ông tổn thương, trên phương diện công việc và cảm xúc cá nhân. Nếu Facebook không còn là nơi thoải mái, dễ chịu và đáng để làm việc nữa, công ty sẽ khó tuyển dụng mới cũng như duy trì đội ngũ nhân viên tay nghề cao, yếu tố giúp công ty cạnh tranh tại Thung lũng Silicon.

Các nhà quảng cáo

Vào tháng 6 vừa qua, chiến dịch tẩy chay Facebook đã tìm ra một điểm yếu khác của mạng xã hội này: các nhà quảng cáo. Dù doanh thu của Facebook một phần đến từ người dùng với các sản phẩm như cuộc gọi qua Portal hay tai nghe Oculus VR, phần lớn doanh thu hàng năm của công ty (70,7 tỷ USD) đến từ quảng cáo.

Ngày 17/6, Color of Change, cùng NAACP, ADL, Sleeping Giants, Free PressCommon Sense Media, đã công khai kêu gọi “các công ty hãy chung tay đoàn kết với cộng đồng người dùng da màu của Facebook và gửi tới Facebook thông điệp rằng họ phải thay đổi cách thức vận hành, bằng cách dừng mọi quảng cáo trên nền tảng này trong tháng 7/2020”.

Trước chiến dịch này, nhiều công ty đã không thoải mái về con số chi tiêu của họ trên Facebook. Nền tảng này, cùng các chương trình quảng cáo được lập trình sẵn, có thể khiến các công ty vấp phải vấn đề “an toàn thương hiệu”, như khi thương hiệu của họ xuất hiện cạnh một nội dung cực đoan hay công kích lòng thù hận. Cùng với đó, ở cấp độ vĩ mô, các công ty đều nhận thức được rủi ro khi Facebook và Google “lũng đoạn thị trường”.

Ngay trong tuần đầu tiên phát động, Patagonia, The North Face và nền tảng tìm kiếm việc làm tự do Upwork đã tham gia. Tiếp đến, Unilever cũng tuyên bố tạm dừng quảng cáo cho đến tận tháng 11. Dù chỉ áp dụng với các quảng cáo tại Mỹ và không trực tiếp trích dẫn tên chiến dịch, động thái này như tiếp thêm lửa cho chiến dịch lan nhanh và mạnh hơn. Ngay lập tức, nhiều cái tên lớn khác cũng góp mặt, trong đó có Coca-Cola và tập đoàn sản xuất rượu Beam Suntory.

Một nhà quảng cáo nhận xét: “Các nền tảng công nghệ đã kiếm được thu nhập và lợi nhuận từ nội dung gây chia rẽ, họ sẽ không thay đổi cách vận hành cho đến khi doanh thu sụt giảm mạnh”.

Kể từ khi làn sóng tẩy chay chính thức nổi lên vào ngày 24/6, những người tham gia không hề có ý định xoa dịu căng thẳng. Thành công hiện tại chỉ thôi thúc họ có nhiều tham vọng lớn lao hơn.

“Chiến tuyến tiếp theo chính là áp lực toàn cầu”, Jim Steyer, Giám đốc Điều hành của Common Sense Media chia sẻ với Reuters. Một số cái tên như North Face và Patagonia đã mở rộng làn sóng tẩy chay trên phạm vi toàn cầu. Một số khác hiện tạm hài lòng với quyết định ngừng ngân sách quảng cáo tại Mỹ. Dù điều này đã đủ sức buộc Zuckerberg phải xuất hiện trước ống kính trong chưa đầy hai tiếng, các nhà vận động chiến dịch hy vọng hành động quy mô toàn thế giới sẽ đủ sức đem lại thay đổi lâu dài.

Hải Yến (theo Guardian) – Vnexpress

Công nghệ

Trung Quốc sẽ trả đũa Nokia, Ericsson nếu châu Âu cấm Huawei

Đã đăng

 ngày

Bởi

Trung Quốc đang xem xét kiểm soát xuất khẩu thiết bị viễn thông của Nokia và Ericsson nếu Liên minh châu Âu (EU) cấm công nghệ 5G của Huawei.
Biển hiệu Huawei bên ngoài một khu mua sắm lớn tại Bắc Kinh (Trung Quốc). Ảnh: Reuters
Biển hiệu Huawei bên ngoài một khu mua sắm lớn tại Bắc Kinh (Trung Quốc). Ảnh: Reuters

Tuần trước, Anh ra quyết định cấm tất cả hãng viễn thông trong nước mua sản phẩm 5G của Huawei từ cuối năm nay và loại bỏ tất cả thiết bị hiện có ra khỏi hệ thống vào năm 2027. Hai hãng là Ericsson (Thụy Điển) và Nokia (Phần Lan) là những công ty được hưởng lợi trực tiếp từ chiến dịch “tẩy chay” Huawei do Mỹ khởi xướng.

Đáp trả, Bộ Thương mại Trung Quốc được cho là đang xem xét các biện pháp kiểm soát xuất khẩu để ngăn Nokia và Ericsson gửi sản phẩm, linh kiện được sản xuất tại Trung Quốc ra nước ngoài.

“Sự trả đũa chỉ là để đối phó với trường hợp xấu nhất mà Bắc Kinh gặp phải. Nếu Liên minh châu Âu thực sự ra lệnh cấm, Trung Quốc buộc phải hành động”, giới thạo tin nói với WSJ.

EU hiện chưa đưa ra khuyến nghị hay lệnh cấm nào trực tiếp với Huawei. Tuy nhiên, các nhà chức trách tại đây vẫn đưa ra một bộ tiêu chuẩn bảo mật và khuyên các quốc gia thành viên nên áp dụng. Trong đó, các nhà mạng phải đặc biệt lưu ý đến nguồn gốc cung cấp của thiết bị, linh kiện, bởi có nhiều rủi ro liên quan đến xây dựng mạng 5G.

Đại diện Nokia và Ericsson từ chối bình luận về các thông tin trên.

Hoài Anh – Vnexpress

Đọc tiếp

Công nghệ

Hệ thống giám sát hoàn chỉnh của ‘TikTok phiên bản Trung Quốc’

Đã đăng

 ngày

Bởi

Douyin, Tiktok phiên bản Trung Quốc, sử dụng công nghệ nhận dạng khuôn mặt để kiểm soát người nước ngoài. Nhưng câu chuyện chưa dừng lại ở đó.

Những video tức cười về các ông bố bà mẹ, những buổi hòa nhạc piano say sưa hay thuyết âm mưu “gây bão mạng” về những đứa trẻ – nạn nhân của tội phạm buôn người – được tìm thấy trong tủ quần áo… là những nội dung bình thường trên TikTok, ứng dụng chia sẻ video với hơn 500 triệu người dùng phương Tây.

Và dường như cuộc sống cũng không có nhiều khác biệt trên Douyin, TikTok phiên bản Trung Quốc, nơi sản sinh ra các triệu phú mạng xã hội mới nhờ sự bùng nổ của ngành công nghiệp live stream. Tuy nhiên, ở phía sau hậu trường, streamer Trung Quốc phải đối mặt với chế độ giám sát và kiểm duyệt tự động vô cùng phức tạp.

Ứng dụng Douyin kiểm duyệt người nước ngoài bằng công nghệ nhận diện khuôn mặt. Ảnh: Telegraph.
Ứng dụng Douyin kiểm duyệt người nước ngoài bằng công nghệ nhận diện khuôn mặt. Ảnh: Telegraph.

Ngày 8/7, một người đàn ông quốc tịch Anh có tên Joshua Dummer gặp phải tình huống trớ trêu trên Douyin, khi cô vợ người Trung Quốc của anh muốn phát live hình ảnh của anh từ căn hộ của họ tại Bắc Kinh. Bằng cách nào đó – nhiều khả năng do công nghệ nhận diện mặt người – Douyin đã phát hiện ra sự có mặt của Dummer và tự động ngừng live kèm thông báo: người nước ngoài bị cấm phát video trực tiếp khi chưa được chính phủ Trung Quốc cho phép.

Dummer chỉ đơn giản ngồi trên ghế sofa và kể về câu chuyện thường nhật của mình. Nhiêu đó đã đủ “chọc giận” hệ thống kiểm duyệt của Douyin. Vợ Dummer cũng bị chặn tính năng phát trực tiếp.

Các hệ thống kiểm duyệt và giám sát vốn hoạt động trên nhiều nguyên tắc khác nhau. Một hệ thống giám sát có thể sử dụng công nghệ nhận dạng khuôn mặt để rà quét các chương trình phát trực tiếp và đoán độ tuổi người dùng, báo cáo cho người kiểm duyệt nếu người dùng có dấu hiệu chưa đủ 16 tuổi.

Trước khi bắt đầu livestream, người dùng cần vượt qua một bước kiểm duyệt khác để kiểm tra khuôn mặt họ có khớp với ảnh trên chứng minh thư do nhà nước cấp hay không. Việc livestream được mặc định không dành cho người nước ngoài hay cư dân đến từ Hong Kong.

Nhiều bộ lọc khác cũng được sử dụng để đánh giá streamer, bởi lẽ người dùng Trung Quốc cần tuân thủ “trật tự công cộng và thuần phong mỹ tục” – một dạng “chỉ số xếp hạng an toàn”, tương tự “điểm tin cậy”. Nếu số điểm nằm dưới một mức nhất định, người đó sẽ bị hệ thống chặn.

Trong khi đó, công nghệ nhận dạng lời nói và văn bản được sử dụng để loại bỏ các trường hợp vi phạm, như “mê tín dị đoan”, phỉ báng Đảng Cộng sản Trung Quốc, thậm chí các video ASMR (phản ứng cực khoái độc lập) cũng bị cấm vì mang tính “khiêu dâm”.

Tất cả phương pháp kiểm duyệt trên đều được ghi trong tài liệu bí mật của ByteDance, công ty mẹ của TikTok và Douyin, sau đó bị Izzy Niu, phóng viên ở New York, phanh phui. Tài liệu này lý giải các ứng dụng đã điều chỉnh theo luật kiểm duyệt Internet nghiêm ngặt của Trung Quốc do tốc độ gia tăng nhanh chóng và hỗn loạn chưa từng có của nền công nghiệp live stream.

Sự cố xảy ra trên Douyin cùng tài liệu kiểm duyệt này đã đặt ra nhiều câu hỏi khó nhằn cho TikTok trong bối cảnh phải đối mặt với nhiều cáo buộc thăm dò quyền riêng tư tại Mỹ và Anh. Tệ hơn, gần đây TikTok cũng bị “cấm cửa” ở Ấn Độ. Liệu TikTok có áp dụng các công nghệ tương tự Douyin với người dùng phương Tây hay không, và nếu có, những dữ liệu người dùng ấy được sử dụng thế nào? Đến nay, TikTok vẫn từ chối trả lời những câu hỏi này.

Người nước ngoài bị cấm phát trực tuyến tại Trung Quốc

Giống khoảng 850 triệu người dùng các ứng dụng “cây nhà lá vườn” của Trung Quốc Đại lục, Dummer vốn không xa lạ gì với các hệ thống kiểm duyệt của Great Firewall.

Cũng bởi lẽ đó, anh chẳng hề choáng váng khi chứng kiến vợ mình phải thực hiện đi thực hiện lại quá nhiều bước xác minh danh tính trước khi bắt đầu phát trực tiếp, trong đó có bước gửi ảnh chứng minh thư và một bức ảnh thật.

“Tất cả ứng dụng, trang web và phương tiện truyền thông của Trung Quốc đều phải tuân theo quy định của nhà nước về nội dung nào được xem là phù hợp”, Dummer cho hay. “Đây là lần đầu tiên tôi bị cấm phát sóng và bị yêu cầu thực hiện thêm nhiều bước đăng ký chỉ vì tôi là người nước ngoài”, anh nhấn mạnh.

Năm 2017, Bộ Văn hóa Trung Quốc đã chính thức ban lệnh cấm người nước ngoài phát video trực tiếp khi chưa được sự “cho phép” của chính phủ. Tuy nhiên, mãi đến gần đây, lệnh này mới được thực thi gắt gao. Nguyên nhân có thể do sự phát triển như vũ bão của phong trào livestream tại Trung Quốc dưới tác động của Covid-19. Ngày càng nhiều người nước ngoài phản ánh tình trạng video phát trực tiếp của mình bất ngờ bị dừng.

Các báo cáo cũng chỉ ra rằng Douyin dừng cả video livestream của người dùng sử dụng tiếng Quảng Đông, một nhánh ngôn ngữ Trung Quốc đang chiếm ưu thế ở Hong Kong.

Hệ thống giám sát hoàn chỉnh

Ngày 9/7, phát ngôn viên của ByteDance xác nhận việc kiểm duyệt quá trình live stream của Dummer. ByteDance cho hay: “Tất cả quy trình kiểm duyệt phát trực tiếp trên Douyin đều do con người thực hiện trong thời gian thực. Bởi vậy, chúng tôi có thể xác nhận rằng trong trường hợp của Dummer, quá trình kiểm duyệt do chính con người thực hiện”.

Tuy nhiên sách trắng của ByteDance đã tự lật tẩy họ.

Theo tài liệu mà nhà báo Niu tìm ra, “để ngăn chặn những rủi ro phát sinh từ mọi khía cạnh của hình thức phát trực tiếp, ByteDance đã thiết lập quy trình giám sát hoàn chỉnh”, tài liệu viết. Ứng dụng sử dụng AI phân tích từng chi tiết mỗi video phát trực tiếp, bao gồm cả hành vi của người xem. Những video có dấu hiệu khả nghi sẽ bị “gắn cờ” và gửi thông báo tới kiểm duyệt viên, người này có thể ngăn chặn hành vi phát tán video hay thậm chí chặn luôn người dùng.

Sơ đồ hệ thống kiểm duyệt nội dung phát trực tiếp của ByteDance . Nguồn: ByteDance.
Sơ đồ hệ thống kiểm duyệt nội dung phát trực tiếp của ByteDance. Nguồn: ByteDance.

Một số phương pháp trong sơ đồ kiểm duyệt này khá phổ biến tại phương Tây. Cả Facebook và YouTube đều sử dụng AI để kiểm soát dịch vụ trên nền tảng, mở rộng mạng lưới kiểm duyệt trong thời gian diễn ra đại dịch khi nỗ lực loại bỏ thông tin sai lệch về Covid-19 hay những phương pháp chữa trị phản khoa học. Các nhà phê bình có thể chỉ trích rằng quy tắc của hai ông lớn này cũng quái đản hệt như ByteDance.

Ví dụ, Facebook thường xuyên theo dõi người dùng để phát hiện dấu hiệu buôn bán ma túy, lan truyền tin giả, tôn sùng các tổ chức kích động thù địch hay người dùng có ý định tự tử. Kể từ sau vụ tấn công khủng bố tại nhà thờ hồi giáo Christchurch năm 2019 được thủ phạm phát trực tiếp trên nền tảng, Facebook phải cam kết với chính phủ các nước phương Tây về quy trình kiểm duyệt nội dung.

Các công ty này có nhiều quy tắc giống nhau. Cả Facebook và ByteDance đều nói không với nội dung khiêu dâm, ảnh khoả thân, quấy rối, lừa đảo, vi phạm bản quyền và trẻ vị thành niên gian dối thông tin độ tuổi.

Tuy nhiên, vẫn có những nét khác biệt.

ByteDance cấm mọi nội dung phát trực tiếp có khuynh hướng “chống Đảng Cộng sản hay chống chính phủ Trung Quốc”. Mê tín dị đoan chắc chắn là điều cấm kỵ, cũng như hành vi hút thuốc và uống rượu, tôn thờ tiền bạc và xúc phạm phụ nữ.

Kỳ lạ hơn, công ty luôn tìm được lý do cấm nhiều xu hướng phổ biến. ASMR – những video độc thoại kích thích não bộ bằng cảm giác ảo – cũng nằm trong danh sách nội dung phù hợp, bởi đôi khi chúng “thu hút người xem bằng những tín hiệu tình dục mạnh mẽ”, chẳng hạn tiếng “liếm tai”.

Cơn sốt slime được nhiều trẻ em Anh yêu thích cũng bị cấm, bởi thành phần slime có chứa hàn the, ẩn chứa nguy cơ gây hại cho con người. Thậm chí ByteDance đã trích dẫn một trường hợp ở Manchester vào năm 2017, khi một đứa trẻ người Anh cuồng YouTube đã bị bỏng hóa chất nghiêm trọng trong quá trình chế tạo “slime kỳ lân”.

Và tất nhiên, cũng tồn tại những quy định cụ thể về trang phục mà phụ nữ có thể diện khi livestream. Các quy định về trang phục của Douyin vốn vấp phải nhiều chỉ trích, nhưng quy định của ByteDance còn khắt khe hơn nhiều, thậm chí họ còn có hình ảnh minh họa cụ thể.

Với trường hợp Dummer, vẫn chưa rõ anh bị “gắn cờ” bởi lý do gì. Một phóng viên Mỹ thường trú tại Trung Quốc sau khi thử nghiệm ứng dụng đã kết luận rằng rất ít khả năng Douyin tiến hành phân tích đặc điểm khuôn mặt các streamer dựa trên đặc tính dân tộc.

Một giả thuyết đặt ra là nền tảng chỉ đơn giản kiểm tra khuôn mặt streamer để đối chiếu với ảnh chứng minh thư, không cho phép người nước ngoài livestream theo luật mặc định. Một khả năng khác là AI nhận dạng giọng nói có thể phát hiện Dummer sử dụng tiếng Anh và phản ứng lại.

Dù theo giả thuyết nào, ByteDance tuyên bố hệ thống của họ vẫn hoạt động hiệu quả. Trong khoảng thời gian năm 2018 đến 2019, số trường hợp nội dung phát trực tiếp vi phạm quy định đã giảm 58%, trong đó 93% trường hợp vi phạm bị phát hiện nhờ hệ thống giám sát trước khi những người dùng khác báo cáo cho kiểm duyệt viên. So sánh với báo cáo minh bạch gần đây nhất của TikTok, nền tảng này thống kê cả những video không phải phát trực tiếp với tỷ lệ 98,2%.

Nghi vấn bủa vây TikTok

Tất cả điều này có ý nghĩa gì với TikTok? Ứng dụng này phần nào tách biệt với Douyin khi chạy trên các mạng khác biệt. Tuy nhiên, cả hai đều được phát triển tại Trung Quốc và có chung các tính năng cốt lõi, trong đó, Douyin thường được xem là sân thử nghiệm cho các ý tưởng mới trước khi được đưa vào TikTok.

ByteDance vẫn đang cố gắng tách biệt hai ứng dụng này, nỗ lực mời gọi Kevin Mayer, cựu Giám đốc điều hành của Disney, làm giám đốc điều hành của TikTok và thành lập văn phòng kỹ thuật mới dành riêng cho TikTok ở Mỹ.

Nhưng nhiêu đó vẫn chưa đủ sức ngăn quan chức Mỹ đặt nghi vấn về việc chính phủ Trung Quốc có quyền truy cập vào tất cả các dữ liệu cá nhân mà TikTok thu thập được. TikTok vẫn luôn phủ nhận việc cung cấp dữ liệu cho nhà nước Trung Quốc, bây giờ và cả tương lai.

Việc Douyin sử dụng công nghệ nhận dạng khuôn mặt và chứng minh thư để kiểm soát người dùng cũng vượt xa hầu hết ứng dụng phương Tây. Mặc dù các hệ thống phát hiện thanh thiếu niên của nền tảng vẫn đang trong giai đoạn “kiểm thử” khi sách trắng được công bố, có lẽ tới nay, chúng đã được triển trai rộng rãi.

TikTok đang bị các cơ quan quản lý Mỹ điều tra vì cáo buộc vi phạm quyền riêng tư của trẻ em, và bị bốn thanh thiếu niên tại bang Illinois đâm đơn kiện vì thu thập dữ liệu khuôn mặt họ khi chưa nhận được sự đồng ý.

Kiểm duyệt cũng không tồn tại ở Trung Quốc. Phóng viên điều tra đã khai quật được các tài liệu nội bộ cho thấy trong năm 2019, TikTok yêu cầu kiểm duyệt viên chặn những video của người dùng có hình dạng cơ thể bất thường, có quá nhiều nếp nhăn hoặc rối loạn về mắt.

Theo báo cáo, mục đích là để đảm bảo rằng những người dùng có ngoại hình đẹp sẽ thu hút thêm nhiều người dùng mới tìm đến và yêu thích nền tảng, thay vì việc người dùng mới rời khỏi ứng dụng khi bắt gặp hình ảnh xấu xí hoặc kém chất lượng.

Một cuộc điều tra khác cho thấy TikTok có chính sách chặn một cách có hệ thống các video ghi hình người khuyết tật, chẳng hạn người mắc chứng tự kỷ, hội chứng Down hoặc biến dạng khuôn mặt, dưới vỏ bọc biện minh rằng hành động đó chỉ giúp nhóm người dùng này không bị trêu chọc. Một người được gắn nhãn “người dùng đặc biệt” ở Đức đã gọi tên hành vi này là “phân biệt đối xử” và “vô nhân đạo”.

Không những thế, hướng dẫn về mặt chính trị đã được ban hành để kiểm duyệt các video của người dùng phương Tây.

Đáp lại hàng loạt nghi vấn ấy, TikTok trả lời rằng hầu hết tài liệu mà phóng viên chỉ ra đều đã lỗi thời và không còn hiệu lực. Công ty thậm chí không xác nhận một vài tài liệu trong số đó. Các quy định liên quan đến yếu tố chính trị và người khuyết tật được thừa nhận có phần lỗ mãng, nhưng chúng là nỗ lực ngăn chặn sớm các xung đột trên nền tảng, và sau đó, họ sẽ đưa ra những giải pháp tinh tế hơn.

Vậy có bao nhiêu hệ thống kiểm duyệt và giám sát của Douyin được đưa vào TikTok? Liệu TikTok cũng sử dụng công nghệ nhận dạng khuôn mặt? Nếu vậy, chúng được sử dụng như thế nào? Nói cách khác, người dùng phương Tây nên lo ngại ra sao về vấn đề này?

Người phát ngôn của TikTok đã từ chối trả lời những câu hỏi cụ thể đó mà chỉ tiết lộ rằng: “TikTok rất coi trọng sự an toàn của người dùng trẻ tuổi. Chúng tôi có những quy định nghiêm ngặt đối với người dùng dưới 16 tuổi tham gia phát trực tiếp”.

“Ngoài việc phân luồng độ tuổi, hoạt động của chúng tôi cũng do kiểm duyệt viên là con người thực hiện, họ sẽ đánh giá các yếu tố cho thấy rõ người dùng chưa đủ 16 tuổi, chẳng hạn thông tin người dùng trong mục Thông tin công khai có thể không khớp với những gì người này cung cấp trong quá trình đăng ký. TikTok chưa bao giờ cung cấp dữ liệu người dùng cho chính phủ Trung Quốc và chúng tôi cũng sẽ không làm điều đó ngay cả khi chính phủ yêu cầu”, người này nhấn mạnh.

Hải Yến (theo Telegraph) – Vnexpress

Đọc tiếp

Công nghệ

Nguy cơ không thể truy vết tin giả vì deepfake

Đã đăng

 ngày

Bởi

Oliver Taylor, tự nhận là sinh viên Đại học Birmingham, là một thanh niên hơn 20 tuổi, mắt nâu, râu lún phún, nụ cười gượng gạo. Nhưng anh không phải người thật.

Hồ sơ trên mạng mô tả Taylor thích uống cà phê, đam mê chính trị và lớn lên trong một gia đình Do Thái truyền thống. Hàng loạt bài viết trên mạng cho thấy người này có hứng thú nghiên cứu chủ nghĩa bài Do Thái, cùng một số bài đăng trên báo Jerusalem Post Times of Israel.

Đại học Birmingham cho biết không có dữ liệu nào về thanh niên này. Anh ta cũng không có dấu vết nào trên mạng trừ một tài khoản ở trang hỏi đáp Quora, nơi Taylor hoạt động trong vòng hai ngày hồi tháng 3. Các tờ báo đăng bài viết của Taylor cho biết họ không thể xác nhận danh tính tác giả. Nhiều chuyên gia hình ảnh với công cụ phân tích hiện đại nhận định ảnh chân dung của Taylor được tạo nhờ công nghệ deepfake.

Hiện chưa ai xác định được người đứng sau Taylor. Các cuộc gọi vào số điện thoại liên lạc của Taylor ở Anh đều nhận được thông điệp báo lỗi tự động và anh ta cũng không phản hồi tin nhắn gửi vào hòm thư Gmail.

Ảnh chân dung trên hồ sơ mạng xã hội của Oliver Taylor.
Ảnh chân dung trên hồ sơ mạng xã hội của Oliver Taylor.

Học giả Mazen Masri là người đầu tiên nghi ngờ về sự tồn tại của Taylor. Ông từng gây chú ý cuối năm 2018 khi thay mặt nhiều công dân Mexico khởi kiện công ty do thám NSO ở Israel vì phần mềm hack điện thoại do họ phát triển.

Trong bài viết trên tờ Algemeiner của cộng đồng Do Thái tại Mỹ, Taylor tố Masri và vợ Ryvka Barnard là “những kẻ ủng hộ khủng bố”.Vợ chồng Masri tỏ ra choáng váng và bác bỏ cáo buộc này, đồng thời cảm thấy khó hiểu khi một sinh viên đại học ở Anh lại công kích họ.

Masri tìm kiếm thông tin về Taylor. “Có gì đó không đúng trên khuôn mặt người thanh niên đó”, học giả này cho hay, dù ông không thể chỉ rõ điều đó.

Sáu chuyên gia được Reuters phỏng vấn cho rằng ảnh chân dung Taylor có nhiều dấu hiệu của deepfake. “Sự biến dạng và các đặc điểm không nhất quán ở phần nền là điển hình của ảnh giả mạo, ngoài ra có nhiều lỗi quanh phần cổ anh ta”, Hany Farid, chuyên gia phân tích hình ảnh đang giảng dạy ở Đại học California của Mỹ, cho hay.

Mario Klingermann, nghệ sĩ thường ứng dụng deepfake trong tác phẩm của mình, khẳng định bức ảnh có hàng loạt dấu vết giả mạo. “Tôi chắc chắn 100%”, ông nói.

Nhân vật Taylor là một trong những ví dụ về hiện tượng đang gây lo ngại trong thời đại kỹ thuật số, đó là công nghệ deepfake kết hợp với những chiến dịch tung tin giả. Điều này đang đặt ra nhiều mối lo cho chính quyền Mỹ và các công ty tại Thung lũng Silicon.

Chủ tịch Ủy ban Tình báo Hạ viện Mỹ Adam Schiff năm ngoái cảnh báo video dùng kỹ xảo máy tính có thể “biến một lãnh đạo thế giới thành con rối”.

Facebook trong tháng 6 thông báo kết thúc Thử thách Phát hiện Deepfake, cuộc thi nhằm giúp các nhà nghiên cứu phát hiện những hình ảnh giả mạo. Tờ Daily Beast tuần trước cũng hé lộ nhóm ký giả deepfake, một phần của mạng lưới tung tin giả trên mạng.

“Những trường hợp như Taylor ẩn chứa nhiều nguy cơ vì nó có thể giúp xây dựng danh tính hoàn toàn không thể truy dấu. Những cuộc điều tra nguồn gốc hình ảnh đó giống việc mò kim đáy bể, mà ở đây cây kim còn không tồn tại”, Dan Brahmy, người sáng lập startup chuyên phát hiện hình ảnh giả mạo Cyabra, nêu quan điểm.

Masri, nạn nhân công kích của Oliver Taylor. Ảnh: Reuters.
Masri, nạn nhân công kích của Oliver Taylor. Ảnh: Reuters.

Taylor dường như không hiện diện trên mạng cho tới khi đăng một số bài viết từ cuối tháng 12/2019. Đại học Birmingham cho biết họ không thể tìm thấy “bất kỳ thông tin về cá nhân sử dụng dữ liệu đó”. Các biên tập viên Jerusalem PostAlgemeiner đăng bài viết được Taylor gửi cho họ qua email. Anh ta không đòi nhuận bút và họ cũng không chủ động xác định danh tính của Taylor.

“Chúng tôi không phải cơ quan phản gián”, tổng biên tập Algemeiner Dovid Efune nói.

AlgemeinerTimes of Israel đã xóa các bài viết của Taylor. Người này sau đó gửi email phản đối, nhưng biên tập viên Miriam Herchlag của Times of Israel bác bỏ yêu cầu sau khi Taylor không thể chứng minh danh tính của mình. Trong khi đó, Efune không hồi đáp thông điệp từ Taylor.

Jerusalem Post vẫn giữ bài viết của Taylor, nhưng bỏ cụm từ “những kẻ ủng hộ khủng bố” sau khi nhận thông báo từ Masri và Barnard.

Các bài viết của Oliver Taylor không thu hút được nhiều tương tác trên mạng xã hội, nhưng Herschlag cho rằng chúng vẫn rất nguy hiểm. Nó không chỉ tác động đến suy nghĩ của cộng đồng, mà còn khiến các nhà quản lý không sẵn lòng tiếp nhận bài viết từ những tác giả không rõ danh tính.

“Chúng ta cần sàng lọc những kẻ giả mạo và tăng cường cảnh giác, nhưng tôi cũng không muốn tạo ra rào cản ngăn những ký giả mới xuất hiện”, bà nói.

Điệp Anh (theo Reuters) – Vnexpress

Đọc tiếp
Advertisement

Facebook

Advertisement

Tin Nổi bật