Biên giới mới cho những kẻ lừa đảo du lịch: Sách hướng dẫn do AI tạo ra

Vào tháng 3, khi lên kế hoạch cho chuyến đi tới Pháp, Amy Kolsky, một du khách quốc tế có kinh nghiệm sống ở Bucks County, Pa., đã truy cập Amazon.com và nhập một vài cụm từ tìm kiếm: Du lịch, sách hướng dẫn, Pháp. Tiêu đề từ một số thương hiệu đáng tin cậy xuất hiện gần đầu trang: Rick Steves, Fodor's, Lonely Planet. Cũng trong số các kết quả tìm kiếm hàng đầu là "Hướng dẫn du lịch Pháp" được đánh giá cao của Mike Steves, theo một trang tác giả của Amazon, là một nhà văn du lịch nổi tiếng.

"Tôi ngay lập tức bị thu hút bởi tất cả các bài đánh giá tuyệt vời", bà Kolsky, 53 tuổi, đề cập đến những gì bà nhìn thấy vào thời điểm đó: Những lời tán dương trên toàn cầu và hơn 100 xếp hạng 5 sao. Hướng dẫn hành trình và khuyến nghị từ người dân địa phương. Giá của nó là 16,99 USD so với 25,49 USD cho cuốn sách về nước Pháp của Rick Steves - cũng thu hút sự chú ý của cô Kolsky. Cô nhanh chóng đặt mua một bản bìa mềm, được in bởi dịch vụ theo yêu cầu của Amazon.

Khi đến nơi, cô Kolsky đã thất vọng vì những mô tả mơ hồ, văn bản lặp đi lặp lại và thiếu hành trình. Cô ấy nói: "Có vẻ như anh ấy vừa lên mạng, sao chép cả đống thông tin từ Wikipedia và dán nó vào". Cô ấy đã trả lại nó và để lại một đánh giá 1 sao gay gắt.

Mặc dù không biết điều đó vào thời điểm xảy ra sự việc, nhưng cô Kolsky đã trở thành nạn nhân của một hình thức lừa đảo du lịch mới: những cuốn sách hướng dẫn kém chất lượng dường như được biên soạn với sự trợ giúp của trí tuệ nhân tạo (AI), tự xuất bản và được hỗ trợ bởi các bài đánh giá giả mạo, đã sinh sôi nảy nở trong những tháng gần đây trên Amazon.

Những cuốn sách là kết quả của sự kết hợp nhuần nhuyễn giữa các công cụ hiện đại: ứng dụng AI có thể tạo văn bản và chân dung giả; các trang web với một loạt ảnh và đồ họa có sẵn dường như vô tận; các nền tảng tự xuất bản — như Kindle Direct Publishing của Amazon — với một số rào cản chống lại việc sử dụng AI; và khả năng thu hút, mua và đăng các bài đánh giá trực tuyến giả mạo, điều này đi ngược lại các chính sách của Amazon và có thể sớm phải đối mặt với các quy định gia tăng từ Ủy ban Thương mại Liên bang.

Việc sử dụng song song các công cụ này đã cho phép sách vươn lên gần đầu kết quả tìm kiếm của Amazon và đôi khi giành được sự chứng thực của Amazon, chẳng hạn như "Hướng dẫn du lịch số 1 về Alaska".

Ví dụ, một tìm kiếm gần đây trên Amazon cho cụm từ "Hướng dẫn du lịch Paris 2023" đã cho ra hàng chục hướng dẫn với tiêu đề chính xác. Một người, tác giả được liệt kê là Stuart Hartley, khoe khoang một cách thô thiển, rằng đó là "Mọi điều bạn cần biết trước khi lên kế hoạch cho một chuyến đi đến Paris". 

Bản thân cuốn sách không có thông tin gì thêm về tác giả hay nhà xuất bản. Nó cũng không có ảnh hoặc bản đồ, mặc dù nhiều đối thủ cạnh tranh của nó có tác phẩm nghệ thuật và nhiếp ảnh có thể dễ dàng truy xuất nguồn gốc từ các trang web lưu trữ ảnh. 

Hơn 10 cuốn sách hướng dẫn khác được cho là của Stuart Hartley đã xuất hiện trên Amazon trong những tháng gần đây dựa trên cùng một thiết kế khuôn mẫu và sử dụng ngôn ngữ quảng cáo tương tự.

The Times cũng tìm thấy những cuốn sách tương tự về nhiều chủ đề hơn, bao gồm nấu ăn, lập trình, làm vườn, kinh doanh, thủ công, y học, tôn giáo và toán học, cũng như sách và tiểu thuyết tự lực, cùng nhiều thể loại khác.

Amazon từ chối trả lời một loạt câu hỏi chi tiết về những cuốn sách. Trong một tuyên bố được cung cấp qua email, Lindsay Hamilton, phát ngôn viên của công ty, nói rằng Amazon đang liên tục đánh giá các công nghệ mới nổi. 

"Tất cả các nhà xuất bản trong cửa hàng phải tuân thủ nguyên tắc nội dung của chúng tôi", cô viết. "Chúng tôi đầu tư thời gian và nguồn lực đáng kể để đảm bảo các nguyên tắc của chúng tôi được tuân thủ và xóa những cuốn sách không tuân thủ các nguyên tắc này".

The Times đã kiểm tra 35 đoạn trong cuốn sách của Mike Steves thông qua một máy dò trí thông minh nhân tạo từ Originality.ai. Jonathan Gillham, người sáng lập công ty giải thích, máy dò hoạt động bằng cách phân tích hàng triệu bản ghi được biết là do AI tạo ra và hàng triệu bản ghi do con người tạo ra, đồng thời học cách nhận ra sự khác biệt giữa hai bản ghi này.

Máy dò chỉ định điểm từ 0 đến 100, dựa trên tỷ lệ phần trăm khả năng mô hình học máy của nó tin rằng nội dung do AI tạo ra. Tất cả 35 đoạn đều đạt điểm tuyệt đối 100, nghĩa là chúng gần như chắc chắn được tạo ra bởi AI.

Công ty tuyên bố rằng phiên bản máy dò của họ được The Times sử dụng bắt được hơn 99% các đoạn AI và nhầm văn bản của con người với AI chỉ dưới 1,6% các bài kiểm tra.

The Times đã xác định và kiểm tra 64 cuốn sách hướng dẫn có định dạng tương tự khác, hầu hết đều có ít nhất 50 bài đánh giá trên Amazon và kết quả rất giống nhau. Trong số 190 đoạn được kiểm tra với Originality.ai, 166 đoạn đạt 100 và chỉ có 12 đoạn dưới 75. 

Để so sánh, điểm của các đoạn từ các thương hiệu du lịch nổi tiếng như Rick Steves, Fodor's, Frommer's và Lonely Planet gần như đều dưới 10, nghĩa là gần như không có khả năng chúng được viết bởi các trình tạo AI.

Amazon, AI và các thương hiệu du lịch đáng tin cậy

Mặc dù sự gia tăng của dịch vụ cộng đồng trên các trang web như Tripadvisor và Yelp, chưa kể đến các trang web và blog du lịch trực tuyến miễn phí cũng như mẹo từ những người có ảnh hưởng trên TikTok và Instagram, đã làm giảm nhu cầu về sách hướng dẫn in và phiên bản sách điện tử của họ, nhưng chúng vẫn bán chạy. 

Vào một ngày gần đây của tháng 7, 9 trong số 50 cuốn sách du lịch hàng đầu trên Amazon — một danh mục bao gồm tiểu thuyết, phi hư cấu, hồi ký và bản đồ — là sách hướng dẫn châu Âu của Rick Steves.

Ông Steves, đến Stockholm vào khoảng nửa đêm sau một ngày nghiên cứu loạt sách hướng dẫn Scandinavia của ông, cho biết ông chưa nghe nói về cuốn sách của Mike Steves và không tỏ ra lo ngại rằng AI có thể tạo ra mối đe dọa.

Ông Steves, người vừa ghé thăm một nhà hàng theo chủ đề Viking và một đối thủ cạnh tranh theo chủ đề thời trung cổ, cho biết: "Tôi không thể tưởng tượng được việc không làm điều đó bằng cách đi giày ra ngoài, đồng thời xác định rằng nhà hàng của người Viking vượt trội hơn nhiều. "Bạn phải ở đây nói chuyện với mọi người và đi bộ".

Ông Steves dành khoảng 50 ngày một năm để rong ruổi trên đường ở châu Âu, ông nói, và các thành viên trong nhóm của ông dành 300 ngày khác để cập nhật khoảng 20 cuốn sách hướng dẫn của họ, cũng như các bản phụ nhỏ hơn.

Nhưng Pauline Frommer, giám đốc biên tập loạt sách hướng dẫn của Frommer và là tác giả của một cuốn sách hướng dẫn nổi tiếng ở New York, lo lắng rằng "những vết cắn nhỏ" từ những cuốn sách hướng dẫn giả đang ảnh hưởng đến doanh số bán hàng của họ. Cô Frommer cho biết cô dành ba tháng một năm để thử nghiệm các nhà hàng và thực hiện các bản cập nhật hàng năm khác cho cuốn sách.

Cô ấy nói: "Một số người nghĩ rằng họ có thể quét internet và đặt những thứ vớ vẩn ngẫu nhiên xuống là điều vô cùng khó chịu".

Amazon không có quy định nào cấm nội dung được tạo ra chủ yếu bởi trí tuệ nhân tạo, nhưng trang này có cung cấp hướng dẫn về nội dung sách, bao gồm tiêu đề, ảnh bìa và mô tả: "Sách bán trên Amazon phải mang lại trải nghiệm tích cực cho khách hàng. Chúng tôi không cho phép nội dung mô tả nhằm đánh lừa khách hàng hoặc không thể hiện chính xác nội dung của cuốn sách. Chúng tôi cũng không cho phép nội dung thường gây thất vọng cho khách hàng".

Ông Gillham, người sáng lập Originality.ai, có trụ sở tại Ontario, cho biết khách hàng của ông chủ yếu là các nhà sản xuất nội dung đang tìm cách thu thập những đóng góp được viết bởi AI. Anh ấy nói: "Trong một thế giới nội dung do AI tạo ra, "việc truy xuất nguồn gốc từ tác giả đến tác phẩm sẽ là một nhu cầu ngày càng tăng".

Tìm các tác giả thực sự của những cuốn sách hướng dẫn này có thể là điều không thể. Ví dụ, không có dấu vết nào của "nhà văn du lịch nổi tiếng" Mike Steves, đã xuất bản "các bài báo trên các tạp chí và trang web du lịch khác nhau", như tiểu sử trên Amazon tuyên bố. 

Trên thực tế, The Times không thể tìm thấy hồ sơ nào về sự tồn tại của bất kỳ nhà văn nào như vậy, mặc dù đã tiến hành tìm kiếm hồ sơ công khai rộng rãi. Cả ảnh tác giả và tiểu sử của Mike Steves rất có thể được tạo ra bởi AI, The Times cho biết.

Ông Gillham nhấn mạnh tầm quan trọng của trách nhiệm giải trình. Ông nói, mua một cuốn sách hướng dẫn đáng thất vọng là một sự lãng phí tiền bạc. Nhưng mua một cuốn sách hướng dẫn khuyến khích người đọc đi đến những nơi không an toàn - "điều đó thật nguy hiểm và có vấn đề", anh ấy nói.

The Times đã tìm thấy một số trường hợp mà những thiếu sót đáng lo ngại và thông tin lỗi thời có thể khiến khách du lịch lạc lối. Một cuốn sách hướng dẫn về Moscow được xuất bản vào tháng 7 với tên Rebecca R. Lim — "một nhân vật được kính trọng trong ngành du lịch" có ảnh tác giả trên Amazon cũng xuất hiện trên một trang web có tên Todo Sobre el Acido Hialurónico ("All About Hyaluronic Acid") cùng với tên Ana Burguillos - không đề cập đến cuộc chiến đang diễn ra của Nga với Ukraina và không bao gồm thông tin an toàn cập nhật. (Bộ Ngoại giao Hoa Kỳ khuyên người Mỹ không nên đi du lịch đến Nga). 

Và một cuốn sách hướng dẫn về Lviv, Ukraina, xuất bản vào tháng 5, cũng không đề cập đến chiến tranh và khuyến khích độc giả "xách ba lô lên và sẵn sàng cho một cuộc phiêu lưu khó quên ở Nga", một trong số những điểm đến quyến rũ nhất của Đông Âu.

Đánh giá giả

Amazon có chính sách chống thao túng đối với các bài đánh giá của khách hàng, mặc dù The Times đã kiểm tra cẩn thận cho thấy rằng nhiều bài đánh giá 5 sao để lại trên các cuốn sách hướng dẫn kém chất lượng là cực kỳ chung chung hoặc vô nghĩa. Tiện ích mở rộng trình duyệt Fakespot, phát hiện những gì nó coi là đánh giá "lừa đảo" và cho điểm từng sản phẩm từ A đến F, đã cho nhiều sách hướng dẫn điểm D hoặc F.

Một số đánh giá là không chính xác. "Hướng dẫn này thật ngoạn mục", một người dùng có tên Muñeca đã viết về hướng dẫn tiếng Pháp của Mike Steves. "Có thể chọn mùa để biết mình thích khí hậu nào nhất, biết rằng ngôn ngữ của họ là tiếng Anh". Hướng dẫn hầu như không đề cập đến thời tiết và nói rõ rằng ngôn ngữ của Pháp là tiếng Pháp.

Hầu hết các bài đánh giá tích cực bằng văn bản đáng ngờ dành cho các hướng dẫn sơ sài là từ "mua hàng đã được xác minh", mặc dù định nghĩa của Amazon về "mua hàng đã được xác minh" có thể bao gồm những độc giả đã tải xuống sách miễn phí.

Bà Frommer nói: "Những đánh giá này đang khiến mọi người bị lừa. Đó là thứ khiến mọi người lãng phí tiền bạc và khiến họ tránh xa những hướng dẫn du lịch thực sự".

Bà Hamilton, phát ngôn viên của Amazon, viết rằng công ty không dung thứ cho những đánh giá giả mạo. "Chúng tôi có chính sách rõ ràng cấm lạm dụng đánh giá. Chúng tôi đình chỉ, cấm và có hành động pháp lý đối với những người vi phạm các chính sách này và xóa các đánh giá không trung thực".

Amazon sẽ không cho biết liệu có bất kỳ hành động cụ thể nào được thực hiện đối với các nhà sản xuất cuốn sách Mike Steves và những cuốn sách tương tự khác hay không. Trong quá trình báo cáo bài báo này, một số đánh giá đáng ngờ đã bị xóa khỏi nhiều cuốn sách mà The Times đã kiểm tra và một số cuốn sách đã bị gỡ xuống. Amazon cho biết họ đã chặn hơn 200 triệu đánh giá bị nghi ngờ là giả mạo vào năm 2022.

Nhưng ngay cả khi Amazon xóa đánh giá, nó vẫn có thể để lại xếp hạng năm sao mà không có văn bản. Kể từ ngày 3/8, "Hướng dẫn du lịch Tây Ban Nha 2023" của Adam Neal đã bị Amazon xóa 217 bài đánh giá, theo phân tích của Fakespot, nhưng vẫn nhận được xếp hạng 4,4 sao, phần lớn là do 24 trong số 27 người đánh giá đã bỏ qua bài đánh giá bằng văn bản đã trao giải thưởng cuốn sách năm sao. 

"Tôi cảm thấy hướng dẫn của mình không thể giống với hướng dẫn mà mọi người đang đánh giá cao như vậy", một nhà phê bình tên Sarie viết, người đã cho cuốn sách 1 sao.

Nhiều cuốn sách cũng bao gồm "các bài đánh giá biên tập", dường như không có sự giám sát từ Amazon. Một số đặc biệt táo bạo, như "Hướng dẫn du lịch Paris 2023" của Dreamscape Voyages, bao gồm các đánh giá giả mạo từ những người nổi tiếng như tạp chí Afar ("Chuẩn bị để ngạc nhiên") và Condé Nast Traveller ("Người bạn đồng hành cuối cùng của bạn để khám phá bản chất thực sự của Thành phố ánh sáng"). Cả hai ấn phẩm đều từ chối đánh giá cuốn sách.

'Bạn phải ở đó trong lĩnh vực này'

Các chuyên gia AI thường đồng ý rằng AI tổng quát có thể hữu ích cho các tác giả nếu được sử dụng để nâng cao kiến thức của chính họ. Darby Rollins, người sáng lập AI Author, một công ty giúp mọi người và doanh nghiệp tận dụng AI sáng tạo để cải thiện quy trình làm việc và phát triển doanh nghiệp của họ, nhận thấy các cuốn sách hướng dẫn này "rất cơ bản".

Nhưng anh ấy có thể tưởng tượng những cuốn sách hướng dẫn hay được sản xuất với sự trợ giúp của AI. Ông nói: "AI sẽ tăng cường, nâng cao và mở rộng những gì bạn đã làm rất tốt. Nếu bạn đã là một nhà văn giỏi và bạn đã là một chuyên gia về du lịch ở châu Âu, thì bạn đang mang đến những trải nghiệm, quan điểm và hiểu biết sâu sắc. Bạn sẽ có thể sử dụng AI để giúp sắp xếp suy nghĩ của mình và giúp bạn tạo ra mọi thứ nhanh hơn".

Ông Steves thật ít chắc chắn hơn về giá trị của việc sử dụng AI. "Tôi không biết AI sẽ đi đến đâu, tôi chỉ biết điều gì tạo nên một cuốn sách hướng dẫn tốt", ông nói. "Và tôi nghĩ bạn phải ở đó trong lĩnh vực này để viết một cái".

Cô Kolsky, người đã bị lừa bởi cuốn sách của Mike Steves, đã đồng ý. Sau khi trả lại cuốn sách đã mua ban đầu, cô ấy đã chọn một thương hiệu đáng tin cậy. "Cuối cùng tôi đã mua Rick Steves", cô ấy nói.

(Nguồn: NYTimes)