Ask HN: Có nên thêm cờ đánh dấu bài viết do AI tạo ra không?
(news.ycombinator.com)- Đề xuất một tính năng chỉ thêm dấu hiệu nhận biết mà không hạ thứ hạng các bài viết do AI tạo ra, để những người dùng không muốn đọc chúng có thể bỏ qua
- Vấn đề tranh luận là liệu chỉ hệ thống bình chọn hiện có đã đủ hay chưa, hay HN cần thay đổi các nguyên tắc cơ bản đã duy trì lâu nay để phù hợp với thời đại AI tạo sinh
1 bình luận
Ý kiến trên Hacker News
dang: Bản thân HN đã có quy định cấm văn bản AI tạo sinh: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
Phần nội dung bài viết hiện chưa có quy định tương tự, nhưng nhìn chung cộng đồng dường như không muốn hoặc đánh giá thấp những bài như vậy. Lý do chúng tôi tập hợp các phản ứng kiểu “hãy chỉ cho xem prompt thôi” tại https://news.ycombinator.com/genai-pushback cũng là để gửi cho những người dùng hỏi vì sao bài viết AI tạo sinh bị báo cáo
Hiện đang diễn ra một cuộc chạy đua vũ trang thú vị: AI học từ con người, đồng thời các nhóm người cũng học văn phong của AI. Độc giả phản ứng gần như dị ứng với lối văn giống LLM, và ngay khoảnh khắc đó bài viết lập tức bị đẩy vào nhóm có địa vị thấp. Không ai biết AI và con người sẽ đi đến đâu khi cả hai cùng thích nghi với nhau
Ngược lại, nếu muốn bài viết được xếp vào nhóm có địa vị cao, hãy tự viết. pg từng gọi điều này là “writes and write-nots”: https://paulgraham.com/writes.html
Điều này không phủ nhận bản thân công nghệ LLM, và HN cũng phụ thuộc vào nó khá nhiều. Điểm cốt lõi là sử dụng nó như thế nào, và có nên dùng nó cho những bài viết công khai với người khác hay không: https://x.com/paulg/status/2058871512451412457
Việc báo cáo chỉ để gắn nhãn về thực chất là một chức năng tag, điều mà HN vẫn luôn từ chối, nhưng không loại trừ hoàn toàn. Thay vào đó, nhiều khả năng khi báo cáo sẽ yêu cầu nêu lý do và cho chọn các mục như nghi ngờ AI tạo sinh, spam, lạc đề, công kích, v.v. Chỉ dựa vào phiếu bầu thông thường thì lúc nào cũng không đủ: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
Với câu hỏi HN có cần thay đổi trong kỷ nguyên AI tạo sinh hay không, tôi muốn trả lời bằng https://news.ycombinator.com/item?id=48887149, và đây là một sự tri ân dành cho https://news.ycombinator.com/item?id=3742902
Không thể biết các hiểu lầm hay khoảng trống là do tác giả thiếu hiểu biết, do AI không hiểu, hay do tác giả không kiểm tra kỹ. Ngay cả khi có một ý tưởng đáng kinh ngạc, cũng khó xác nhận đó có phải là insight của tác giả hay không, liệu họ có thể giải thích thêm không, và nó xuất phát từ đâu
Nếu một đồng tác giả là con người chỉnh sửa đủ kỹ, nội dung có thể phản ánh chính xác quan điểm và hiểu biết của họ, nhưng thực tế điều đó hiếm khi xảy ra; việc về thực chất không có tác giả để ta có thể trao đổi sâu hơn với nội dung là vấn đề đặc biệt lớn đối với một trang thảo luận
Nếu là bài của một chuyên gia đã được biết đến, ta có thể đọc với thái độ tin tưởng và học hỏi; nhưng những cách diễn đạt sáo rỗng mà AI lạm dụng trở thành tín hiệu cho thấy không biết con người đã kiểm tra đến đâu. Cuối cùng, ta sẽ xếp nó vào loại “bài có thể chỉ lộ ra giá trị sau khi một người phân tích toàn bộ” hoặc bác bỏ ngay
IgorPartola: Nếu gắn nhãn do AI tạo thì sẽ mất lòng tin, nên sẽ không ai tự nguyện gắn nhãn. Cộng đồng có thể dựa vào manh mối và suy đoán để báo cáo, nhưng điều đó không chính xác và cũng tạo thêm việc
Kỷ nguyên blog về cơ bản đã kết thúc, và đó không hẳn chỉ là chuyện xấu. Ngay cả trước AI, blog spam và blog doanh nghiệp đã làm hỏng những blog chất lượng, nên câu hỏi thật sự là thứ gì sẽ thay thế blog
Nếu bài do AI viết không thể phân biệt được với bài của con người, đồng thời chính xác và thú vị, thì chủ thể viết có còn quan trọng không? Thứ cần tránh không phải bản thân việc AI tạo ra, mà là chất lượng thấp, đúng không
Có thể sẽ có một tương lai không thể phân biệt hoàn hảo, nhưng lập luận rằng vì một tương lai bất định nên hiện tại không làm gì cả là không hay. Hiện nay nội dung AI vẫn khá dễ nhận ra, và nếu đã được chỉnh để trông không giống AI thì ít nhất đó cũng là bài có nhiều công sức con người hơn
Việc một người có trực tiếp gõ trên bàn phím hay không không quan trọng, nhưng nội dung có được con người nhào nặn hay không thì quan trọng. LLM không chỉ đơn giản là gõ chữ; nó còn quyết định văn phong, sắc thái, giọng nói và cấu trúc, mà những thứ đó là cốt lõi của giao tiếp giữa con người với nhau
Retr0id: Một phần đáng kể người bình chọn không nhận ra các câu do AI tạo ra; ngay cả khi nhận ra, họ cũng không bận tâm, hoặc bỏ qua nếu tiền đề đủ thú vị. Nếu đưa vào cách bình chọn hai chiều hay/dở và AI/con người, có lẽ sẽ giảm được các tranh luận meta quanh việc AI đã được dùng trong bài nhiều đến mức nào
minimaxir: Tính năng gắn nhãn AI trong thực tế nguy hiểm hơn nhiều so với trên lý thuyết. Trên mạng xã hội, chỉ cần ai đó ác ý buông một câu “AI à?” là sẽ có ồn ào do nhận nhầm và tác giả gốc phải tự chứng minh mình
Với bài blog cũng thiếu cách cụ thể để chứng minh do con người viết, và việc đòi nộp lịch sử chỉnh sửa cũng không công bằng. Nếu HN đưa tính năng này vào, khả năng hại nhiều hơn lợi
shantnutiwari: Phản đối. Dưới mỗi bài lên top HN đều có vài bình luận kiểu “cái này là LLM”, và giờ nó đã trở thành cách nói thay cho “tôi không thích bài này nên chắc nó là LLM”: https://news.ycombinator.com/item?id=48063759
Những bình luận như vậy vẫn được upvote lắt nhắt, nên cảm giác như cày karma lười biếng. Nếu quy 100 bài là LLM thì thế nào cũng trúng một lần, rồi có thể khoe lần đó như một nhà chiêm tinh. Cần có cách hạn chế những bình luận ít công sức kiểu này
dawnerd: Với mức YC đầu tư vào AI, khó kỳ vọng họ sẽ làm việc như vậy. Ở đây cũng có quá nhiều người cho rằng cứ phải khuất phục và chấp nhận, cá nhân tôi thấy nó giống lập luận của kẻ gây hại
nunez: Một tháng trước tôi cũng đã yêu cầu tính năng tương tự: https://news.ycombinator.com/item?id=48296731
Nếu đủ nhiều người dùng báo cáo là nội dung AI, tôi muốn cuối tiêu đề bài viết được gắn nhãn
[AI Generated]CM30: Nội dung do AI tạo thường đòi hỏi mức đầu tư ít hơn so với tác phẩm tự làm, nên việc gắn nhãn là hữu ích, nhưng chưa rõ cách xử lý tốt
Trên mạng có rất nhiều săn phù thủy và nhận nhầm, đến mức cả tác phẩm của con người cũng bị quy là AI chỉ vì dùng dấu gạch ngang dài hoặc bàn tay trong tranh trông kỳ lạ. Nếu những người dùng cảnh giác cao luôn giả định điều tệ nhất, có khi một nửa site sẽ bị gắn nhãn AI
Nếu để tác giả tự khai thì họ có động cơ nói dối vì sẽ mất uy tín và độc giả; công cụ phát hiện AI cũng có nhiều báo sai nên khó tin. Có thể thêm nội dung AI làm lý do báo cáo, nhưng với các bài gửi thông thường nên giả định thiện chí, và tôi không muốn toàn bộ site trở nên quá hoang tưởng hoặc hạn chế
Debugreality: Có những ý tưởng sẽ không thể ra đời nếu không có sự trợ giúp của AI. Gần đây tôi công bố dưới dạng white paper một đề xuất về dân chủ mà tôi đã nghĩ suốt nhiều thập kỷ; AI đã giúp mở rộng ý tưởng, cấu trúc tài liệu và viết phần nội dung
Tôi không phải học giả nên rất có thể sẽ không hoàn thiện được nếu không có AI, và tôi nghĩ được công bố còn tốt hơn là chỉ nằm trong đầu rồi biến mất. Một tài liệu học thuật tự viết chắc chắn tốt hơn, nhưng dù phần lớn do AI viết, tôi đã dành hai ngày kiểm tra rằng mình đồng ý với từng đoạn và sửa các vấn đề
Khi đánh giá chất lượng, nên nhìn vào nỗ lực của con người đã bỏ vào hơn là việc có dùng AI hay không
Tôi thích hơn rất nhiều một phiên bản chỉ tự viết các nhận định cốt lõi, thay vì để LLM viết phần nội dung. Tôi không muốn phải lần mò qua nhiều trang câu chữ để tìm ý chính. Đặc biệt, dùng LLM để “bồi đắp” ý tưởng là con đường chắc chắn nhất khiến người đọc chán
Việc biến các nhận định thành một văn bản dài dòng chỉ cần thiết ở giai đoạn luật hóa. Cứ so sánh “hãy cho biết bạn dùng dữ liệu như thế nào” với các điều khoản liên quan của GDPR là thấy
lazyasciiart: Hay là gắn dấu hiệu ở tiêu đề kiểu
[1997]thì sao? Đây có thể là nội dung độc giả quan tâm hoặc không, nhưng biết nguồn gốc thì họ có thể tiếp nhận khác đi[AI]ở cuối tiêu đề, nhưng vì bản thân AI cũng có các mục đích chính đáng, có lẽ[SLOP]sẽ phù hợp hơnteo_zero: Cũng như có người không chịu nổi bài do AI tạo, có người không chịu nổi lỗi ngữ pháp. Nếu có nhãn
AI generated, tôi cũng sẽ muốn có nhãnlousy with mistakesDevKoala: Điều duy nhất quan trọng là bài viết có hữu ích, dựa trên sự thật và không thiên lệch hay không. Nó được viết như thế nào thì tôi không quan tâm
thinkingemote: Trên HN, khá nhiều bài mà mọi người muốn đọc là về LLM, và nhiều trong số đó được viết bằng LLM. Đọc rất khó chịu và hầu như chẳng có viên ngọc truyền cảm hứng nào, nên nếu liên quan thì tôi chỉ lướt qua; giá trị thật thường nằm ở phần bình luận
Nếu có thể dễ dàng nhận ra văn phong LLM, thì cũng đáng xem các bài nghiên cứu của nhà nghiên cứu AI và nhà sáng lập trước thời LLM tiêu dùng. Văn phong đó giống văn xuôi LLM hiện nay đến mức đáng kinh ngạc
rddbs: Tôi muốn ẩn luôn các bài về AI, hơn là các bài do AI viết. Giờ cảm giác phần lớn nội dung HN đều là chuyện AI, nên phát chán. Tôi tò mò có cách nào như tiện ích trình duyệt để lấy lại sự cân bằng không
Bước đầu tiên tôi tự làm là ẩn tất cả bài liên quan đến AI trên trang đầu, rồi bước thứ hai là tìm các bài thú vị còn lại. Dạo này, đáng tiếc là có nhiều ngày chẳng còn bài nào
mattas: Đến mức này thì có lẽ thêm nhãn
not AIcòn hợp lý hơnramon156: Tôi tạo một tiện ích cá nhân để chặn khỏi feed của mình những người chủ yếu đăng thông tin do AI tạo. Với cá nhân tôi thì nó hoạt động tốt, nhưng không biết có hiệu quả cho toàn bộ dịch vụ hay không
Chỉ cần cung cấp tag để mọi người tự phán đoán có lẽ cũng đủ. Các tiện ích liên quan đến YouTube như DeArrow và SponsorBlock triển khai khá tốt mô hình đóng góp cộng đồng
cloudpilot: Tôi làm một ứng dụng với sự trợ giúp của AI, nhưng dù tự viết thông điệp, tôi vẫn bị báo cáo
jaredcwhite: Tôi tin mạnh mẽ rằng văn bản do AI tạo không nên xuất hiện chút nào. Tuy vậy, ngoài các dấu hiệu LLM rõ ràng thì rất khó chứng minh, và việc yêu cầu bằng chứng thật sự là do con người viết cũng không dễ
Càng ngày tôi càng thích các cộng đồng nơi nếu một bài được chia sẻ hợp lệ thì mặc định được xem là do con người viết
Tôi đồng ý về nguyên tắc, nhưng khó triển khai công bằng và có nguy cơ phân biệt đối xử lớn. Cũng có nghịch lý là nếu sửa lỗi chính tả và để lại dấu vết biên tập thì lại trông giống con người hơn
shahzaibmushtaq: AI không vượt trội hơn trí tuệ con người (HI), và trong tương lai cũng không thể như vậy. Việc công khai tác phẩm của mình có được tạo bằng AI hay không, và đã dùng ở mức tỷ lệ nào, là trách nhiệm của tác giả và người viết
KingOfCoders: Bài viết chỉ có hay hoặc không hay. Tôi không quan tâm nó do con người, AI hay mèo viết
amelius: Sẽ hay nếu Unicode thêm một vùng mã dành riêng cho công cụ AI, với các ký tự giống các ký tự Latin-1. Khi đó có thể để lại một dạng bit đánh dấu cố định trong sản phẩm do AI tạo
Ngay cả bây giờ cũng có thể triển khai tương tự nếu yêu cầu các công ty AI dùng ký tự khoảng trắng đặc biệt thay vì ASCII
0x20, và điều đó cũng giúp tránh vấn đề dùng lại dữ liệu sinh ra để huấn luyệnnickandbro: Với bài viết thuần văn bản, không biết có định đếm cả số dấu gạch ngang dài không, hay thực tế sẽ cưỡng chế bằng cách nào. Ngay cả các bộ phát hiện AI được tạo riêng cho mục đích này cũng sai rất nhiều
warshinder: Tôi kiểm tra phần bình luận trước. Luôn có ai đó cho biết đó có phải bài AI không, có đáng đọc không, hay có tải được không
Thời HN ban đầu, điều đó còn giúp người gửi tránh lượng truy cập đột biến, và nếu có paywall thì ai đó sẽ đăng bản lưu trữ trong bình luận
CqtGLRGcukpy: Một bài mà ai đó cho là do AI tạo có thể thực ra không phải, và bộ phân biệt AI cũng không đủ đáng tin để khẳng định chắc chắn
Bài viết quảng cáo hời hợt đang đứng số 1 trang đầu hiện tại là một ví dụ hay: https://news.ycombinator.com/item?id=48884853
aryehof: Tôi sợ rằng chỉ cần ám chỉ quan điểm của một người nào đó là do AI tạo cũng có thể khiến nó dễ dàng bị gạt bỏ hoặc bị bịt miệng
rdataguy: Không phải lúc nào cũng dễ nhận ra có phải do AI tạo hay không, và tính năng này cũng có thể bị lạm dụng. Dù vậy, nếu trí tuệ tập thể phân biệt được đủ nhiều trường hợp thì nó vẫn có thể hữu ích
itsgrimetime: Tôi không phản đối việc gắn nhãn bài AI, nhưng mong mọi người đi sâu hơn vào chính nội dung, bất kể nó được viết như thế nào. Gần đây có vẻ ngày càng nhiều trường hợp lập tức bác bỏ hoặc chỉ trích chỉ dựa trên cách viết, thay vì xem bài gửi đang nói gì
Xotic007: Nếu có nhãn AI, ta chỉ cung cấp cho người tạo nội dung một mục tiêu phát hiện rõ ràng để né tránh. Kết quả là văn phong AI lộ liễu sẽ giảm, nhưng việc né phát hiện không khó, nên công sức tạo nội dung sẽ hầu như không tăng
deevus: Bài Show HN do chính tôi viết đã bị kiểm duyệt tự động chặn. Nói thật là nó kích hoạt sự nhạy cảm với việc bị từ chối của tôi, nên từ đó tôi không còn đăng bài lên HN nữa
edoceo: Chẳng phải chỉ cần thêm chức năng downvote cho bài gửi là được sao
flagrồiEsophagus4: Khái niệm đáng tham khảo là https://en.wikipedia.org/wiki/Evil_bit
atomicthumbs: Việc khuyên người khác đọc bài do máy viết là hành động không tôn trọng thời gian của họ. Nếu bạn không đủ quan tâm để tự viết, thì người khác cũng chẳng có lý do gì để đọc, nên giá trị bằng 0
mleroy: Thay vì theo dõi và báo cáo nội dung AI, có thể để tác giả tự nguyện đánh dấu đó là nội dung gốc. Có thể gắn các thẻ như
[Handmade],[Craft-Article],[Artisan-Thinking]vào liên kếtjeremyjh: Không thể downvote bài gửi, và cũng có nhiều người không khó chịu khi đọc bài mà không ai tự tay viết, nên chỉ bỏ phiếu thông thường là chưa đủ
Vì có thể đã có nhiều công sức đáng kể trong các bước ngoài việc viết, không thể khẳng định rằng cứ do AI viết là không có giá trị. Dù vậy, tôi nghiêng về việc áp dụng bất lợi để thiết lập chuẩn mực tôn trọng giao tiếp thực sự giữa con người với nhau
Tôi dùng AI khá nhiều cho nhiều mục đích nên thường xuyên đọc nội dung được tạo ra, và giọng văn đặc trưng của AI càng nhận ra nhiều thì càng gây khó chịu. Có sự khác biệt rất lớn giữa việc đọc câu trả lời cho prompt của mình, với việc đọc một bài mà mình hoàn toàn không biết prompt, số lần chỉnh sửa hay liệu con người có rà soát hay không
Thông thường, với bài do con người viết, tác giả đã bỏ ra ít nhất gấp 5 lần công sức so với độc giả, nhưng với bài AI, không biết liệu độc giả có đang tốn nhiều thời gian hơn tác giả hay không, nên nó trở thành một yếu tố gây nhiễu khó chịu đựng
nyellin: Nếu áp dụng việc đánh dấu có AI hay không, phần bình luận của mọi bài viết sẽ biến thành tranh cãi xem AI có viết không, và viết đến mức nào. Tốt hơn nên để mọi người đánh giá chính nội dung
lukasbm: Không ai thích đọc đầu ra chatbot chưa được ai lọc lại, nhưng cũng không thể phát hiện điều đó một cách chắc chắn