Bản demo Gemini “con vịt” không được thực hiện theo thời gian thực hay bằng giọng nói
(twitter.com/parmy)- Bản demo Gemini con vịt ấn tượng của Google, trái với những gì video công khai gợi ý, không được thực hiện bằng đối thoại thời gian thực hay nhập liệu bằng giọng nói
- Mô hình không được cho xử lý trực tiếp video, mà được cung cấp các ảnh tĩnh trích xuất từ các cảnh quay
- Người phát ngôn cho biết prompt của con người cũng đã được sử dụng, và phần thuyết minh bằng giọng nói trong video được thêm vào sau
- Cách thức vận hành thực tế khác với tương tác thời gian thực và bằng giọng nói được thể hiện trong video cuối cùng
- Khi đánh giá bản demo Gemini, cần phân biệt giữa video được dàn dựng và đầu vào thực tế được đưa vào mô hình
Cách bản demo Gemini con vịt thực sự được thực hiện
- Bản demo Gemini của Google có con vịt xuất hiện không được thực hiện theo thời gian thực
- Mô hình không trực tiếp xử lý video theo thời gian thực, mà nhận đầu vào là các ảnh tĩnh lấy từ các cảnh trong video
- Prompt của con người được cung cấp cho mô hình, và phần thuyết minh của prompt được thêm vào sau đó
- Cách thức này được tiết lộ thông qua người phát ngôn
Liên kết liên quan
- Nội dung chi tiết được dẫn tới bài viết của Bloomberg Opinion: bloomberg.com/opinion/articl…
1 bình luận
Các ý kiến trên Hacker News
Tôi từng làm kiểu này ở đại học
Trong lớp khoa học máy tính đầu tiên, chúng tôi được phát Raspberry Pi, và bài tập là tạo ra “một thứ gì đó” mà không có kinh nghiệm lập trình hay hướng dẫn nào. Bài nộp không phải là mã nguồn, mà chỉ là phần trình diễn hoạt động
Ba chúng tôi mua một cảm biến độ ẩm, nối vào Pi, rồi nói sẽ lắp dưới cầu để tạo hệ thống phát hiện lũ gửi email cho người phụ trách ngay trước khi lũ xảy ra
Trong buổi demo thực tế, một người bạn ở cuối lớp đã mở sẵn Gmail và chuẩn bị gửi email “cảnh báo lũ”, còn script thì chỉ in ra các câu giữa các lệnh
wait. Sau khi in “đang chờ độ ẩm”, 3 giây sau nó in “đã phát hiện độ ẩm” trong lúc chúng tôi nhúng cảm biến vào cốc nước, rồi khi nó in “đang gửi email đến xxx@yyy.com”, người bạn phía sau bấm gửi, email được gửi tới, và chúng tôi được điểm tối đaCó những lúc dự án lớn chưa sẵn sàng nhưng khách hàng vẫn muốn thấy ít nhất một phần nào đó trông như đã hoàn thiện, và họ kỳ vọng trạng thái hoàn chỉnh mà không hiểu rằng 90% công việc là thứ người dùng không nhìn thấy
Việc dựng một HMI giả để ai đó bấm nút trong lúc demo, còn ở phòng bên cạnh một người khác thao tác thủ công đầu ra và đầu vào để làm nó trông như đang hoạt động thật, là chuyện khá phổ biến
Trong quá trình đó, tôi làm hỏng hết các bộ thu GPS đang có trong tay; mẫu module GPS RS-232 đó thật sự rất yếu. Vì vậy tôi không thể trình diễn định vị thời gian thực thật, mà dù sao nó cũng chưa hoàn thiện
Dù vậy, sau khi hoàn tất GUI, tôi giả vờ rằng “khi đang định vị thì nó trông như thế này”, và thực ra không chạy mã định vị. Đó không phải hoạt động tính điểm, nhưng đến giờ tôi vẫn thấy hơi áy náy
Chuyện này thật sự kỳ lạ. Google đã phát minh ra transformer, nền tảng của tất cả các mô hình này, vậy mà không hiểu sao họ cứ liên tục sút trượt như vậy
Google Docs ra mắt năm 2006, nhưng Microsoft đang ăn mất bữa trưa của họ. Google đã tạo ra khả năng thay đổi VM tại chỗ và các trung tâm dữ liệu tự động hóa hoàn toàn, nhưng trên mảng cloud thì Amazon và Microsoft dẫn trước. Họ cũng làm xe tự lái lâu hơn bất kỳ ai, nhưng Tesla đã bắt kịp và có lẽ sẽ thắng
Quy mô của những cú sút trượt là khổng lồ
Nó có tên khác và tôi nghĩ không phải SharePoint, hình như liên quan đến những thứ như báo cáo chi phí. Nó tốt đến mức Google Docs hiện nay cũng phải thấy ngượng, nhưng họ không muốn tự ăn thịt sản phẩm của mình
Sản phẩm cần sự tận tâm và lặp đi lặp lại, và 10% cuối cùng mới là phần quan trọng nhất. Nhưng Google cứ nhất quyết không đẩy sản phẩm qua vạch đích rồi bỏ cuộc, thêm nó vào Google Product Graveyard khét tiếng
Thành thật mà nói, tôi tự hỏi làm vậy có ý nghĩa gì. Họ chỉ cần duy trì mảng tìm kiếm/quảng cáo cốt lõi, không cần chi hàng chục tỷ đô la cho hàng chục nghìn kỹ sư đắt đỏ được tuyển vào qua một quy trình phỏng vấn tệ hại
Việc thống trị nghiên cứu nền tảng của AI tạo sinh nhưng lại ngã sấp mặt ở sản phẩm tiêu dùng đúng là diễn biến rất hợp với công ty đã tạo ra Stadia, GMail/Inbox và 17 ứng dụng chat
Sau Gmail, Google gần như chưa tự mình ra mắt sản phẩm nào tử tế, và ngay cả Gmail cũng lớn lên nhờ dùng độc quyền tìm kiếm như một bảng quảng cáo miễn phí
Cũng có thông tin rằng “Google Docs bắt nguồn từ Writely, trình xử lý văn bản dựa trên web do công ty phần mềm Upstartle ra mắt vào tháng 8 năm 2005”
Điều Google luôn quan tâm là đưa ứng dụng đến với hàng tỷ người dùng
Người ta cũng đang quên rằng hiện Google là công ty AI có lợi nhuận cao nhất thế giới. Tất cả sản phẩm của họ đều dùng machine learning và AI
Vậy ai mới là bên đang thua? Mục tiêu của Gemini không phải là tạo một chatbot kiểu ChatGPT trong khi đã có Bard, mà là tích hợp vào 10 sản phẩm có 1 tỷ người dùng
Toàn bộ trang web và nội dung của Gemini khiến tôi thấy kỳ lạ. Nó có cảm giác như đang cố trông và tạo cảm giác giống tài liệu marketing của Apple, nhưng lại rơi vào thung lũng kỳ quái
Từ những câu chữ phóng đại, sự đa dạng chủng tộc/giới tính được căn chỉnh chính xác như phẫu thuật, các hoạt ảnh không cần thiết, cho đến bài trình bày kiểu bán hàng của CEO, tất cả giống như một người chơi nhỏ trong lĩnh vực này đang cố trông như người chơi lớn
Keynote của Apple trông như những robot vừa thoát khỏi thung lũng kỳ quái đang giả làm con người. Nếu keynote 5 năm nữa được tạo bằng AI thì có thể sẽ trông như thế này, nên hóa ra Apple vẫn luôn đi trước cả trong xu hướng keynote
Có vẻ Google muốn cho thấy họ đang đứng cùng sân chơi
Lý do marketing dùng sự đa dạng là vì chính thị trường mà họ muốn nhắm tới cũng đa dạng. Chỉ là tôi không rõ “chính xác như phẫu thuật” ở đây nghĩa là gì
Việc Sundar nhắc mô hình nói nhiều sự thật có thể phân định đúng/sai là một tín hiệu cảnh báo lớn
Nhìn vào các con số benchmark được công bố thì hầu hết chỉ là cải thiện sát nút, tức là vấn đề ảo giác chưa được giải quyết. Thế nhưng bản demo lại trông như thể vấn đề đã được giải quyết. Rốt cuộc tôi cho rằng họ chủ yếu chọn các trường hợp mà mô hình tình cờ trả lời đúng hoặc nói ra thông tin nhất quán
Dù đã phóng đại năng lực, có vẻ để hội tụ thành các khái niệm nhất quán về những hiện tượng có thể quan sát thực tế trên nhiều dạng dữ liệu, vẫn sẽ cần đến mô hình đa phương thức. Đây là tiến triển tốt, nhưng giờ họ phải chứng minh một cách thuyết phục rằng một kiến trúc cụ thể thực sự mô hình hóa được quan hệ nhân quả
Kiểu như “Bạn có tin rằng túi khí nóng đã tạo ra áp suất thấp khiến máy bay bị thất tốc không?”, và bản thân câu hỏi cũng quá gượng gạo đến mức có vẻ khó mà nói cho trôi chảy. Thật sự rất ngượng
[1] https://www.youtube.com/watch?v=mHZSrtl4zX0&t=277s
Tự dùng thử là dễ hiểu ngay. Do bản chất tự hồi quy, LLM không thể tự xây dựng một mô hình nhất quán bên trong trước khi trả lời. Có những cách tiếp cận như chuỗi suy luận, nhưng đó chỉ là giải pháp tạm bợ, chỉ xử lý vấn đề ở bề mặt
Nếu có thể giải quyết, đó sẽ là việc có ý nghĩa khoa học rất cơ bản và nền tảng, và có lẽ sẽ là một đột phá nhỏ nữa trong AI
Chúng chỉ nhả ra chuỗi đầu ra mà chúng cảm thấy có vẻ hợp lý nhất sau chuỗi đầu vào. Định nghĩa “hợp lý nhất” như thế nào là chủ đề của rất nhiều nghiên cứu, nhưng tối ưu hóa cho độ chính xác thực tế là chuyện hoàn toàn khác
Trong một số trường hợp nhất định như bài toán lập trình, chúng có thể trông thông minh, vì sự đồng thuận đại khái trong văn bản Internet đối với một prompt cụ thể khá gần với sự thật và ít bị ô nhiễm bởi nội dung rác của người không chuyên. Chúng cũng giỏi tạo loại “nội dung” mềm mại chung chung, nhưng tôi không biết giá trị của nó là gì
Cuối cùng, chất lượng thông tin nhận lại không tốt hơn chất lượng của một lần tìm Google cẩn thận, chỉ là nó cho câu trả lời nhanh hơn, súc tích hơn và được trình bày đẹp hơn
Tôi đã bị lừa. Trong thông báo ra mắt mô hình có nói rằng nó có thể nhận đầu vào đa phương thức gồm video và âm thanh
Tôi biết video có nhiều chỉnh sửa và cắt ghép, nhưng vẫn tin rằng mình đang xem các ví dụ đầu vào video và âm thanh thực sự. Việc chuyển từ văn bản và ảnh tĩnh sang “mắt và tai” là một bước nhảy lớn nên tôi hoàn toàn kinh ngạc. Còn có phần vẽ nhạc cụ rồi nhạc được tạo ra, nên tôi tưởng mình đang thấy một mô hình tạo nhạc từ prompt ngôn ngữ giống các mô hình chuyên biệt
Nhưng tất cả đều là giả. Đó là tập hợp các ví dụ prompt engineering được tuyển chọn, được kịch tính hóa để tối đa hóa sự phấn khích của cổ đông. Ví dụ âm nhạc không phải là tạo ra bản nhạc mà chúng ta nghe trong video, mà chỉ xuất ra mô tả của bản nhạc
Một video phóng đại kiểu “những thứ này có thể trở thành khả thi” hoàn toàn khác với việc vừa tuyên bố mô hình đa phương thức mới là tốt nhất, vừa thao túng benchmark và đánh lừa bằng demo
Google có vẻ đã bước vào giai đoạn xấu xa. OpenAI và Microsoft chắc đang khá hả hê
Một demo hướng tương lai cho thấy tương lai của sản phẩm, trong khi nói rõ là chưa đạt tới nhưng đang đi theo hướng đó, hoặc một demo đã được viết kịch bản và biên tập để làm các tính năng hiện tại trông tốt nhất, đều là thông lệ tiêu chuẩn và có thể chấp nhận
Nhưng việc Google làm thì đơn giản là sai. Họ đáng phải nhận phản ứng dữ dội về chuyện này
Có vẻ nhà đầu tư cũng muốn bị lừa. Không có chỗ cho thẩm định, và dù đang nghe lời dối trá họ vẫn phấn khích la hét như fan Taylor Swift
Những tập đoàn lớn kiểu này sẽ thoát tội nhiều nhất có thể, lâu nhất có thể. Nói vậy nghe như việc của chúng ta chỉ là chờ họ một ngày nào đó ban cho một “giai đoạn không xấu xa”, nhưng thực ra chúng ta phải khôi phục quy định chống độc quyền đã bị tháo dỡ có hệ thống suốt 30 năm qua
Vì lượng dữ liệu của video rất lớn, tôi đoán nó sẽ trích xuất khoảng một khung hình mỗi giây để xử lý như ảnh, nhưng đầu vào ban đầu vẫn là toàn bộ video
Hóa ra ngay cả vậy cũng không phải
Việc tạo những video phóng đại như thế để làm hài lòng cổ đông khiến người ta mất niềm tin vào bộ phận nghiên cứu. Tôi không nghĩ hồi công bố BERT họ đã làm những việc như thế
Tôi đã dùng kiểu nhập Swype từ thời T9
Nếu tôi trình diễn nhập Swype đúng như cách tôi dùng hằng ngày cho những người đã quen với bàn phím QWERTY, sẽ chẳng ai chịu áp dụng cả
Tỷ lệ đoán sai từ hoặc phải sửa có lẽ vào khoảng 10–20%. Nhưng vì dễ sửa nên không thành vấn đề, và hoàn toàn không làm chậm đi. Trong nhiều cách nhập văn bản, cá nhân tôi thấy đây là cách tốt nhất, nhưng cần thời gian để học cách dùng
Tôi nghĩ sản phẩm nào cũng như vậy. Nếu sau 100 giờ biến nó thành thói quen và đã điều chỉnh cho các trường hợp biên, rồi lại cho thấy đúng y như cách nó thực sự hoạt động, thì sẽ chẳng ai áp dụng thứ gì cả
Vì cả hai cách đều tệ nên tôi cũng không biết giải pháp là gì
Sửa: Tôi đang viết bằng Swype trên điện thoại, nên để phù hợp với ngữ cảnh này tôi sẽ giữ nguyên lỗi gõ
Nó giống như một demo bàn phím Swype có thêm điều khiển tâm trí bằng thần giao cách cảm để sửa lỗi
Đáng tiếc là chỉnh sửa văn bản trên iOS cũng hoàn toàn vô dụng. Nó ép vùng chọn kỳ quặc và chèn văn bản đã sửa theo cách rất gượng gạo
Tôi nhắn tin bằng QWERTY, nhưng nhập văn bản trên iOS đúng là một thảm họa hoàn toàn và ngày càng tệ hơn theo thời gian
Với Swype, bạn đã biết đầu ra đúng trông như thế nào. Nếu đầu ra không phải thứ bạn muốn, bạn nhận ra ngay và sửa
Khi hỏi LLM, bạn không nhất thiết biết đáp án đúng. Nếu đầu ra trông đủ tự tin, mọi người sẽ coi đó là sự thật. Ngoài thử nghiệm và kiểm thử, người ta không hỏi LLM những câu mà họ đã biết sẵn đáp án
Đây cũng là lý do chính khiến nhận dạng chữ viết tay không thay thế được bàn phím. Sau khi chữ viết tay được chuyển thành văn bản, sửa lỗi bằng con trỏ và bàn phím lại dễ hơn. Lặp lại vài lần, đa số sẽ nghĩ “thôi cứ dùng con trỏ và bàn phím ngay từ đầu cho tiết kiệm thời gian”
Vậy câu hỏi là việc phát hiện và sửa lỗi trong đầu ra của AI tạo sinh dễ đến mức nào. Đáng tiếc là nếu không phải trường hợp bạn đã biết sẵn đáp án, việc chỉ ra lỗi có thể rất khó
Bàn phím Swype cần luyện tập để thành thạo, nhưng demo cho kiểu nhập đó thường vẫn cho thấy cách dùng thực tế, ngay cả khi người trình diễn là “chuyên gia”
Những demo kiểu này khiến mọi người hiểu lầm sản phẩm thực sự làm được gì, và cuối cùng chỉ làm tăng phản ứng hoài nghi không thể tránh khỏi. Nếu sản phẩm thật sự tuyệt vời, chỉ cần demo các tính năng một cách thực tế là mọi người sẽ nhận ra
Trang Bloomberg được liên kết trên Twitter hiện đã bị gỡ xuống.[1] Trang thay thế là [2], và trang mới nói rằng một phần trong đó là giả. Tôi không tìm thấy trang cũ trong kho lưu trữ
[1] https://www.bloomberg.com/opinion/articles/2023-12-07/google...
[2] https://www.bloomberg.com/opinion/articles/2023-12-07/google...
Tôi nghĩ đây là một ví dụ rất hay cho thấy cần nghi ngờ độ tin cậy của video, âm thanh, hình ảnh thật và marketing của công ty, và trước khi xác minh thì nên giả định chúng là được tạo ra
Nếu giọng nói, email, chat, rồi sắp tới cả video đều có thể được tạo theo thời gian thực hoặc gần thời gian thực, tôi tự hỏi làm sao có thể chắc chắn rằng một nhân viên làm từ xa không thực ra là một thực thể được tạo ra hoàn toàn hoặc một phần
Khi xác minh, bí mật dùng chung là cách tốt, nhưng khi cơ thể hoàn toàn ở xa thì giải pháp là gì?
Giờ tôi đang đi du lịch, làm sao gia đình tôi xác nhận được người gửi yêu cầu Venmo nói rằng hành lý bị thất lạc chính là tôi?
Lời nói dối sẽ đi vòng quanh thế giới trước khi sự thật kịp rời vạch xuất phát, nhưng không thể vì thế mà cứ để mặc được
Bản thân video và phần mô tả video có tuyên bố miễn trừ trách nhiệm theo hướng đó. Dù vậy, tôi đồng ý rằng một số người có thể rời đi với hiểu lầm về cách Gemini hoạt động
Hy vọng tương tác thời gian thực sẽ sớm trở thành một phần của ứng dụng. Có vẻ không có quá nhiều rào cản kỹ thuật
Ở những nơi khác họ đã công bố phần lớn chi tiết, nhưng bản thân video được dựng và biên tập theo cách rất dễ gây hiểu lầm. Họ muốn khiến người xem tin rằng nó phản ứng phức tạp với các prompt giọng nói đơn giản và luồng video, trong khi thực tế không phải vậy
Điều đó khác với “Gemini được đưa vào các ảnh tĩnh đã được chọn lọc, chứ không phải video”
Video đó đã đánh lừa rất nhiều người, trong đó có tôi. Đây không phải kiểu demo được tối ưu hóa cực độ hoặc có kịch bản thường thấy
Nó là quảng cáo sai sự thật rõ ràng khi trình diễn một tính năng không tồn tại, và nói thật là một hành động đáng xấu hổ của Google
Xét trong bối cảnh nội dung do AI tạo ra và sự thao túng nói chung, tôi cho rằng video này mang tính lừa dối. Với tôi, điểm duy nhất ấn tượng trong video là khả năng phản hồi nhanh và linh hoạt như thể đang xử lý video theo thời gian thực, nhưng chẳng có phần nào trong đó là thật. Gần như là lừa đảo
Tôi cũng đã bị lừa để nghĩ rằng Gemini nhìn và nghe qua luồng video/âm thanh, chứ không phải nhận ảnh tĩnh và prompt văn bản
Khác biệt giữa ảnh tĩnh và luồng video có thể trông không lớn, nhưng thực tế bot phải hiểu rất nhiều ngữ cảnh đang thay đổi nếu không muốn cứ liên tục lảm nhảm một cách ngớ ngẩn
Ngoài ra, trong một cuộc trò chuyện qua luồng video thời gian thực, nó cần nhận biết trạng thái chưa biết để im lặng đúng lúc, và điều này nổi tiếng là khó với AI tạo sinh
Tất nhiên có thể thêm vài mẹo và heuristic để làm cho việc này dễ hơn, nhưng khiến bot trông như một đối tác con người trong hội thoại thì thật sự khó. Đó là phần ấn tượng nhất trong “cuộc trò chuyện” ở video, nhưng tiếc là tất cả đều là giả :(