Những thảm họa được lập trình trước

Nhưng nếu nhìn vào các tài liệu khoa học có liên quan thì chúng ta sẽ thấy rằng các nỗ lực để kiểm soát dư luận, theo nghĩa “tối ưu hóa”, phải chịu thất bại do tính phức tạp của vấn đề. Tính năng động của sự hình thành dư luận luôn đầy rẫy những bất ngờ. Không ai biết được cách thức chiếc đũa thần kì diệu kỹ thuật số, tức là kỹ thuật thao túng cú hích, nên được sử dụng một cách tốt nhất như thế nào. Điều gì được cho là một giải pháp đúng hay sai thường chỉ được thấy rõ sau một thời gian nào đó mà thôi. Trong đợt bệnh dịch cúm lợn của Đức vào năm 2009, ví dụ, mọi người đều được khuyến khích đi tiêm phòng. Tuy nhiên, ngày nay chúng ta biết rằng một tỷ lệ nào đó những người được tiêm chủng đã bị nhiễm một bệnh bất thường, chứng ngủ rũ (Narcolepsy). May mắn thay, đã không có nhiều người chọn phương thức chích ngừa!

Một ví dụ khác là nỗ lực gần đây của các nhà cung cấp bảo hiểm y tế khuyến khích người dân tập thể dục bằng cách phân phát các vòng đeo tay tập thể dục thông minh, với mục đích làm giảm số lượng bệnh về tim mạch trong người dân; nhưng cuối cùng, điều này có thể dẫn đến nhiều ca phẫu thuật hông hơn. Trong một hệ thống phức tạp, chẳng hạn như về mặt xã hội, khi có một lĩnh vực được cải tiến thì gần như chắc chắn sẽ dẫn đến sự xuống cấp của một lĩnh vực khác. Vì vậy, những giải pháp can thiệp ở diện rộng đôi khi có thể chứng minh là những sai lầm lớn.

Bất luận điều nói trên, bọn tội phạm, khủng bố và cực đoan sẽ cố gắng và tìm cách sớm hay muộn nắm quyền kiểm soát cây đũa thần kỳ diệu về kỹ thuật số – thậm chí chúng ta có thể không hề chú ý đến. Hầu như tất cả các công ty và định chế đều đã bị hack [tin tặc tấn công], kể cả Lầu Năm Góc, Nhà Trắng, và NSA [National Security Agency – Cơ quan An ninh Quốc gia Hoa Kỳ].

Một vấn đề nảy sinh khác là khi thiếu sự minh bạch tương xứng và khả năng kiểm soát dân chủ: thì sự xói mòn của hệ thống sẽ phát sinh từ bên trong. Các thuật toán tìm kiếm và các hệ thống giới thiệu có thể bị ảnh hưởng. Các công ty có thể trả giá trên cơ sở của một số kết hợp các từ ngữ để đạt được những kết quả thuận lợi hơn. Chính phủ các nước cũng có thể có khả năng gây ảnh hưởng đến các kết quả. Trong các cuộc bầu cử, họ có thể tạo ra các cú hích đối với những cử tri còn lưỡng lự theo hướng ủng hộ họ – một hình thức thao túng rất khó phát hiện. Vì vậy, bất cứ ai kiểm soát được công nghệ này thì có khả năng thắng được cuộc bầu cử – bằng cách tự tạo ra các cú hích dẫn đến quyền lực.

Vấn đề này càng trở nên trầm trọng hơn khi trong thực tế, ở nhiều nước, một công cụ tìm kiếm đơn lẻ hoặc một nền tảng truyền thông xã hội chiếm một thị phần trội hơn hẳn. Điều này dứt khoát có thể gây ảnh hưởng đến công chúng và can thiệp từ xa vào các nước này. Mặc dù phán quyết ngày 06/10/2015 của Tòa án Công lý châu Âu hạn chế việc trích xuất các dữ liệu của châu Âu một cách không chừng mực, vấn đề cơ bản vẫn chưa được giải quyết trong khu vực châu Âu, và thậm chí còn ít hơn ở những nơi khác.

Chúng ta có thể chờ đợi sẽ có những hiệu ứng phụ không mong muốn nào? Để cho hành động thao túng không bị chú ý, còn có cái gọi là hiệu ứng cộng hưởng – các gợi ý đề xuất còn được tùy chỉnh một cách thích đáng đối với từng cá nhân. Bằng cách này, các xu hướng cục bộ được củng cố dần dần bởi sự lặp đi lặp lại, dẫn tất cả chúng ta đến cái gọi là “bộ lọc bong bóng” hoặc “hiệu ứng buồng tiếng vang”: cuối cùng, tất cả những gì chúng ta có thể nhận được là chính những ý kiến của mình được phản hồi lại. Điều này tạo ra sự phân cực xã hội, dẫn đến việc hình thành các nhóm cục bộ riêng rẻ không còn hiểu biết lẫn nhau và thấy mình ngày càng xung đột với các nhóm khác. Bằng cách này, những thông tin cá thể hóa có thể vô tình phá hủy sự gắn kết xã hội. Điều này hiện thời có thể được quan sát trong nền chính trị của Mỹ, nơi mà đảng Dân chủ và đảng Cộng hòa đang ngày càng xa rời nhau, đến mức mà các thỏa hiệp về chính trị đã trở nên gần như là điều bất khả. Kết quả là một sự phân mảnh, thậm chí là một sự tan rã, của xã hội.

Do hiệu ứng cộng hưởng, một sự thay đổi dư luận ở diện rộng trong xã hội chỉ có thể diễn ra một cách chậm rãi và từng bước. Các hiệu ứng diễn ra với một độ trễ thời gian, nhưng, chúng cũng có thể dễ dàng không diễn ra. Có thể xảy ra, ví dụ, một sự oán giận vượt khỏi tầm kiểm soát đối với các dân tộc thiểu số hoặc người nhập cư; tình cảm dân tộc quá lớn có thể dẫn đến nạn phân biệt đối xử, chủ nghĩa cực đoan và xung đột.

Có lẽ điều thậm chí quan trọng hơn là việc các phương pháp thao túng làm thay đổi cách thức chúng ta đưa ra quyết định. Chúng không đếm xỉa đến những tín hiệu văn hóa và xã hội khác có liên quan, ít nhất là trong một thời gian tạm thời. Tóm lại, việc sử dụng các phương pháp thao túng ở diện rộng có thể gây ra những thiệt hại nghiêm trọng về mặt xã hội, bao gồm việc bạo hành hóa hành vi trong thế giới kỹ thuật số. Ai phải chịu trách nhiệm cho việc này?

Các vấn đề pháp lý

Điều này đặt ra những vấn đề pháp lý không nên bỏ qua, căn cứ vào các mức phạt tiền rất lớn đối với các công ty sản xuất kinh doanh thuốc lá, các ngân hàng, các công ty CNTT và các công ty sản xuất kinh doanh ô tô trong vài năm qua. Nhưng, nếu có, thì luật nào có thể bị vi phạm? Trước hết, điều rõ nhất là các công nghệ thao túng hạn chế sự tự do lựa chọn. Nếu công cụ kiểm soát từ xa các hành vi của chúng ta hoạt động hoàn hảo, thì về cơ bản chúng ta là những nô lệ của kỹ thuật số, bởi vì chúng ta chỉ thực hiện những quyết định mà trong thực tế đã được người khác thực hiện trước. Tất nhiên, các công nghệ thao túng chỉ hiệu quả có một phần. Tuy nhiên, quyền tự do của chúng ta đang biến mất dần dần, nhưng chắc chắn –trong thực tế, điều đó diễn ra đủ chậm đến mức người dân phản kháng rất ít, cho đến nay.

Những nhận định sâu sắc của nhà khai sáng vĩ đại Immanuel Kant dường như tỏ ra thích đáng ở đây. Trong số những thứ khác, ông lưu ý rằng một nhà nước mà cố xác định mức độ hạnh phúc của người dân là một nhà nước chuyên quyền. Tuy nhiên, quyền tự phát triển bản thân chỉ có thể được thực thi bởi những người có quyền kiểm soát cuộc sống của họ, điều này đòi hỏi phải có sự tự quyết về thông tin. Đây không gì khác hơn là các quyền hiến định quan trọng nhất của chúng ta. Một nền dân chủ không thể hoạt động tốt, trừ khi các quyền đó được tôn trọng. Nếu chúng bị hạn chế, thì điều này sẽ làm suy yếu hiến pháp của chúng ta, xã hội của chúng ta và nhà nước.

Khi các công nghệ thao túng, chẳng hạn như cú hích lớn, hoạt động theo cách tương tự để cá thể hóa các quảng cáo, thì các luật khác cũng bị ảnh hưởng. Các quảng cáo cũng phải được ghi là quảng cáo và không được gây hiểu lầm. Chúng cũng không được phép sử dụng một số thủ thuật tâm lý, chẳng hạn như sự kích thích tiềm thức. Đây là lý do tại sao người ta cấm chiếu một chai nước giải khát nào đó trong một phim [quảng cáo] rất ngắn, bởi vì khi đó hình ảnh quảng cáo không thể được nhận biết một cách có chủ ý trong khi nó vẫn có thể có một hiệu ứng tiềm thức. Hơn nữa, việc thu thập và xử lý các dữ liệu cá nhân ở diện rộng hiện nay chắc chắn không tương thích với những luật bảo vệ dữ liệu được áp dụng tại các nước châu Âu và tại các nước khác.

Cuối cùng, tính hợp pháp của giá cả cá thể hóa cũng là vấn đề đáng ngờ, bởi vì đó có thể là một sự lạm dụng thông tin nội bộ. Các khía cạnh liên quan khác là khả năng vi phạm các nguyên tắc bình đẳng và không phân biệt đối xử – và của các luật cạnh tranh, khi mà khả năng tiếp cận thị trường tự do và tính minh bạch về giá cả không còn được đảm bảo. Tình huống được so sánh với việc các doanh nghiệp bán sản phẩm của mình với mức giá rẻ hơn ở các nước khác, nhưng cố gắng ngăn chặn việc mua [sản phẩm] qua các nước này. Nhữngtrường hợp như vậy đã dẫn đến việc bị phạt tiền rất cao trong quá khứ.

(còn tiếp) 

Huỳnh Thiện Quốc Việt dịch

Nguồn: “Will Democracy Survive Big Data and Artificial Intelligence?”, Scientific American, February 25, 2017.

http://www.phantichkinhte123.com/2017/04/lieu-nen-dan-chu-co-song-sot-qua-du.html

Advertisements

Trả lời

Mời bạn điền thông tin vào ô dưới đây hoặc kích vào một biểu tượng để đăng nhập:

WordPress.com Logo

Bạn đang bình luận bằng tài khoản WordPress.com Đăng xuất / Thay đổi )

Twitter picture

Bạn đang bình luận bằng tài khoản Twitter Đăng xuất / Thay đổi )

Facebook photo

Bạn đang bình luận bằng tài khoản Facebook Đăng xuất / Thay đổi )

Google+ photo

Bạn đang bình luận bằng tài khoản Google+ Đăng xuất / Thay đổi )

Connecting to %s