Video AI tiến hóa để kích hoạt tối đa các vùng não mục tiêu

• NEvo dùng digital twin của não dự đoán phản ứng của các vùng thị giác làm mô hình phần thưởng, rồi tiến hóa các video trong môi trường in silico nhằm tối đa hóa mức kích hoạt dự đoán của một vùng cụ thể
• Biểu diễn chủ thể, ánh sáng, chuyển động và bầu không khí như các gene, rồi lặp lại qua nhiều thế hệ các bước tạo, đánh giá, chọn lọc, lai ghép và đột biến video ứng viên
• Để giảm chi phí tính toán, hệ thống dùng cách tiếp cận 2 giai đoạn: trước tiên tìm ảnh tĩnh mạnh nhất, sau đó khám phá chuyển động riêng để biến nó thành video 2 giây
• Video tổng hợp phù hợp với tính chọn lọc theo từng vùng đã biết, như khuôn mặt ở FFA, địa điểm ở PPA và chuyển động ở MT; đồng thời ghi nhận mức kích hoạt cao hơn video localizer thủ công và các video tự nhiên hàng đầu
• Dọc theo đường dẫn thị giác bên từ V1 đến aSTS, kích thích được ưa thích chuyển từ mẫu đơn giản và chuyển động sang con người, khuôn mặt và tương tác xã hội, trong khi đặc trưng xã hội và động ngày càng mạnh hơn

---

Tiến hóa video dùng digital twin làm phần thưởng

• Huấn luyện digital twin, một mô hình mã hóa của não, để dự đoán phản ứng của từng vùng thị giác trước video bất kỳ, rồi dùng phản ứng dự đoán của vùng được chọn làm phần thưởng cho NEvo
• Mỗi video được mô tả bằng một số ít gene như chủ thể, ánh sáng, chuyển động và bầu không khí
  • Tạo một lô video ứng viên rồi dùng digital twin để tính điểm
  • Giữ lại các ứng viên đạt điểm cao và thực hiện lai ghép, đột biến
  • Lặp lại quá trình này qua nhiều thế hệ để nâng mức kích hoạt dự đoán
• Để tránh chi phí của việc tìm kiếm đồng thời cả ảnh và video, hệ thống thực hiện tìm kiếm 2 giai đoạn
  • Trước tiên tìm một ảnh tĩnh đơn lẻ mạnh nhất
  • Sau đó khám phá chuyển động để hoạt họa ảnh đó thành video 2 giây
• Tổng hợp kích thích cho các vùng quan tâm (ROI) chuẩn trên bề mặt vỏ não và từng vùng searchlight dày đặc
  • Ví dụ PPA đạt điểm 0.767, tương ứng bách phân vị 100.0 so với ảnh tự nhiên
  • Ví dụ searchlight rh_5 đạt điểm 1.124, tương ứng bách phân vị 100.0 so với ảnh tự nhiên

Tính chọn lọc theo vùng và thay đổi trên đường dẫn thị giác bên

• Video 2 giây được tổng hợp cho từng vùng phù hợp với những kích thích mà vùng đó được biết là ưa thích
  • FFA phản ứng với khuôn mặt, PPA với địa điểm, EBA với cơ thể
  • MT ưa thích chuyển động, còn V1·V3A ưa thích mẫu hình
  • pSTS·aSTS phản ứng với các cảnh xã hội sinh động
• Video NEvo tạo ra mức kích hoạt cao hơn video localizer thủ công và các video tự nhiên mạnh nhất trên hầu hết các vùng
• Ở mọi vùng, video chuyển động tạo phản ứng cao hơn khung hình đầu tiên cố định của cùng video, xác nhận sự ưa thích đối với kích thích động
• Khi di chuyển searchlight từ V1 về phía aSTS, các kích thích tổng hợp và word cloud tự động tạo chuyển từ mẫu hình đơn giản và chuyển động sang con người, khuôn mặt và tương tác xã hội
  • Dọc theo đường dẫn thị giác bên xuất hiện một gradient trong đó đặc trưng xã hội và động tăng dần
• Trong thí nghiệm bắt đầu từ các đĩa xếp chồng trừu tượng, các đặc trưng ưa thích theo từng vùng cũng được tách biệt
  • Tối ưu hóa pSTS tạo ra các nhân vật trông giống khuôn mặt và tương tác với nhau
  • Tối ưu hóa MT tạo ra chuyển động thuần túy

[GN⁺]

Ý kiến trên Hacker News

• Giai đoạn tiếp theo của mạng xã hội gần như chắc chắn sẽ rất kinh khủng. Ngay lúc này, họ đã chọn ra những video ngắn gây nghiện nhất cho từng người dùng từ hàng triệu video có thật, nhưng chúng vẫn chưa hoàn hảo vì đó chỉ là những mũi phi tiêu ném ngẫu nhiên vào không gian các khả năng có thể giữ chân người dùng
  Giờ đây, với AI, họ có thể tạo ra video gây nghiện cá nhân hóa nhấn chính xác mọi công tắc trong não người xem để giữ họ như zombie suốt nhiều ngày. Mong rằng quy định pháp lý sẽ gây áp lực thật mạnh lên các mạng xã hội để họ thậm chí không dám triển khai loại công nghệ này
  • Mối đe dọa còn lớn hơn mạng xã hội là Anthropic·OpenAI·Google, nơi con người trao cả những suy nghĩ thầm kín nhất của mình. Kiểu thao túng tâm lý cá nhân hóa ở quy mô lớn mà các sản phẩm AI đám mây có thể cung cấp vẫn chưa thực sự xuất hiện, và nếu có đủ thời gian, tôi nghĩ những người như Dario Amodei hay Sam Altman rốt cuộc sẽ cho thấy điều đó
    Xu hướng nịnh nọt của GPT-4o và cuộc khủng hoảng loạn thần do AI gây ra có thể chỉ là trailer báo trước, nhưng ngay cả thế cũng mới chỉ là tối ưu hóa mức độ tương tác
  • Những gì họ đang làm với bộ não chúng ta và con cái chúng ta để vắt nốt đồng tiền cuối cùng cho đến khi Trái Đất cháy rụi cũng chẳng khác gì cách con lợn bên trong chúng ta bị đối xử
  • Có lẽ thay vì trông chờ vào quy định, tốt hơn là hy vọng mọi người tỉnh ngộ và thôi không mở những trang đó nữa
  • Thật ngạc nhiên là trong cuộc thảo luận này vẫn chưa ai nhắc tới Infinite Jest của David Foster Wallace. Tôi cũng đã bắt đầu đọc từ vài năm trước mà vẫn chưa xong
• Bỏ qua hàm ý xã hội và đạo đức, tôi tò mò về phần kiểm chứng thực nghiệm của bài báo. Sau khi huấn luyện một bản sao số là mô hình mã hóa dự đoán mỗi vùng thị giác sẽ phản ứng thế nào với một video bất kỳ, NEvo dùng các giá trị dự đoán đó làm phần thưởng để tự động tìm kiếm video sẽ kích hoạt mạnh nhất vùng đã chọn
  Nhưng tôi không thấy họ có xác nhận rằng video được tạo ra thật sự tạo nên mẫu kích hoạt não giống như bản sao số khi đo MRI trên người thật hay không. Tôi hoài nghi liệu bản thân một mô hình có thể dự đoán ổn định hoạt động não từ video hay không
  • Việc thu thập một bộ dữ liệu kiểm chứng nhỏ trên người gần như dễ đến mức tầm thường, nên việc họ không làm vậy khá đáng ngờ. Ở chỗ chúng tôi, chi phí chụp quét khoảng 800 USD mỗi giờ, và chỉ cần 30 phút là có thể thu được đủ dữ liệu để kiểm chứng mô hình
    Về mặt phương pháp, họ khớp V-JEPA2 với dữ liệu fMRI bằng hồi quy ridge theo từng voxel, tức giả định phản ứng thị giác tác động độc lập lên từng voxel. Mô hình theo từng voxel tốt cho suy luận thống kê, nhưng lại yếu cho dự đoán và mô hình hóa vì não không hoạt động như tập hợp các vùng độc lập. Tín hiệu BOLD là loại dữ liệu cực kỳ nhiễu, nên thiết kế này có vẻ quá đơn giản để phản ánh thực tế
  • Những tín hiệu mà fMRI bỏ sót sẽ không được phản ánh trong bản sao số dù có thể trông giống nhau trên màn hình, vì vậy thiên kiến của người thí nghiệm bị đưa vào trong cỗ máy, và tôi cũng nghi ngờ liệu phương pháp này còn giữ được khả năng bị phản bác hay không
    Đầu vào cảm giác thực, hồi tưởng, ảo và tưởng tượng được xử lý rất khác nhau trong não và trong các bước hậu xử lý cảm giác. Bản sao số chỉ có một phần dữ liệu nên nhiều khả năng chỉ tái tạo các mẫu bề mặt, và nếu lặp lại phơi nhiễm đủ nhiều thì những mạch vốn từng cùng phát hỏa có thể bị tái nối lại theo cách khó nhận ra. Dù vậy, bản thân bài báo cũng gần như thừa nhận các giới hạn này bằng ngôn ngữ khoa học, điều đó khá thú vị
  • A. Nếu không xem bản thân khoa học não bộ là khoa học phi đạo đức thì không có vấn đề bản chất nào với kiểu nghiên cứu này. Với tư cách là một nhà thần kinh học, tôi phản đối mạnh việc ám chỉ sự suy đồi đạo đức mà không có căn cứ
    B. Bản sao số là một lĩnh vực mô phỏng não đang phát triển, có thể xấp xỉ các mẫu hoạt động não ở quy mô lớn, nhưng chưa ở mức mô phỏng nguyên xi não thật. Thường nó dùng các mô hình neuron xấp xỉ kiểu tích phân-phát hỏa cùng cân bằng giữa các quần thể kích thích và ức chế, và tăng độ chính xác bằng cách ước lượng kết nối sợi trục chất trắng của từng đối tượng bằng ảnh khuếch tán. Nó cũng ngày càng được dùng để mô hình hóa ảnh hưởng của phẫu thuật lên sự lan truyền cơn động kinh trước mổ. Về chủ đề này, tập The Virtual Brain trong podcast Theoretical Neuroscience rất hay
    C. Việc kiểm chứng mới chỉ được thực hiện một phần. NEVO chỉ tối ưu phản ứng thần kinh bên trong mô hình mã hóa bản sao số, và bản sao số đó được cho là đã cho thấy độ giá trị dự đoán đáng kể, nhưng nó khác với mô hình Virtual Brain đã nói ở trên. Đầu ra có vẻ hợp lý về mặt thần kinh sinh học, nhưng không có mô hình độc lập hay kết quả fMRI mới nào chứng minh rằng kích thích đã tối ưu thật sự kích hoạt vùng mục tiêu ngoài đời thực. Vì đây là nghiên cứu thực hiện trên dữ liệu fMRI sẵn có, nên kiểm chứng đầy đủ hiển nhiên là bước tiếp theo, và bài báo lần này có thể giúp họ xin được kinh phí nghiên cứu cần thiết
    D. Trung bình mà nói, từ lâu người ta đã có thể tạo ra các kích thích tĩnh làm hoạt hóa một số vùng não nhất định vượt mức nền. Tùy cặp kích thích-vùng não mà khác biệt cá nhân sẽ khác nhau; vùng mặt thoi (FFA) nhỏ nên phải tìm bằng kích thích khuôn mặt theo từng cá nhân thay vì cách tiếp cận vùng quan tâm đơn giản, nhưng nhìn chung vẫn có thể xác định vị trí khá ổn định. Việc đo hoạt động não rất thô, như voxel 3×3×3mm của fMRI với phản ứng huyết động có tự tương quan không gian lớn, hay trường thụ cảm khoảng 400mm² của EEG. Bản sao số mô hình hóa động lực học ở độ phân giải này khá tốt, và ở mức này lượng thông tin không nhiều, nên việc tự động hóa bằng video cũng không phải là một bước nhảy quá phi lý
• Điều này rất giống cuộc thảo luận tuần trước về startup đọc não, nên cần đọc bài báo trước khi phản ứng. Công cụ này nhằm giảm thiên kiến của người thí nghiệm phát sinh khi nhà nghiên cứu tự quyết định “vùng này có lẽ làm chức năng thế này, vậy hãy cho xem video X”, từ đó làm sáng tỏ chức năng của từng phần não
  Sau khi cho đối tượng xem nhiều video trong máy quét suốt vài giờ, mô hình tạo ra biểu diễn riêng của dữ liệu và tìm đầu vào khiến khu vực cụ thể phản ứng mạnh nhất. Có thể xem đây là sự khái quát hóa của nghiên cứu não bộ truyền thống, vốn trình bày kích thích rồi ghi lại phản ứng não để hiểu con người và nhận thức là gì
  • Cái gọi là ‘mục đích’ của nghiên cứu chẳng phải chỉ là điều người ta hy vọng nó sẽ được dùng cho thôi sao. Tôi nghi ngờ họ thực sự có thể ảnh hưởng được bao nhiêu đến việc nó sẽ được dùng vào đâu
  • Tôi cần một liên kết hoặc thêm thông tin để biết startup đọc não được nói ở đây là gì
  • Loại nghiên cứu này cũng giúp Moonbug Entertainment (Candle Media) tạo ra một Distractatron tốt hơn. Chẳng hạn phát lặp đi lặp lại trên một chiếc TV nhỏ cách vài mét trên màn hình lớn những cảnh 20 giây rất bình thường như rót cà phê hay cắt tóc, rồi ghi lại mỗi khi đứa trẻ rời mắt khỏi chương trình của Moonbug

Bản thân Distractatron không quá thú vị, nhưng có thể cải thiện nội dung bằng cách tìm ra chính xác thời điểm sự tập trung bị đứt quãng. Bài viết của New York Times và bài viết của New Yorker nói khá chi tiết về điều này

• Ngay cả khi bản thân nghiên cứu này và ý định của nhà nghiên cứu không vô đạo đức, nó vẫn có thể dẫn tới những hệ quả khủng khiếp. Công nghệ hạt nhân cũng ban đầu được phát triển với ý định tốt và mang lại nhiều lợi ích cho nhân loại, nhưng rốt cuộc những tác nhân nguy hiểm nhất lại sở hữu một lượng lớn vũ khí hạt nhân
• Có một ví dụ cá nhân cho thấy việc sử dụng quá mức một phần của não có thể nguy hiểm. Người cậu chăm sóc người dì bị sa sút trí tuệ vốn cả đời là người giỏi giang, ổn định và đáng tin cậy, nhưng cuối cùng đã suy sụp tinh thần và trải qua cơn hưng cảm
  Vì phải cảnh giác liên tục suốt hơn một năm, 7 ngày một tuần, do lo dì có thể làm những việc nguy hiểm như bật bếp gas, hệ thống cảnh giới nguy hiểm trong não ông đã bị bào mòn không ngừng. Tôi thừa nhận nghiên cứu này là khoa học, nhưng nếu không kiểm soát chặt, chắc chắn sẽ có công ty tìm cách tung ra những cuộc tấn công kiểu Rowhammer lên não người
  • Nhiều khả năng nguyên nhân là căng thẳng hơn là làm việc quá sức. Căng thẳng có thể kích hoạt cơn hưng cảm ở người có khuynh hướng sinh học, và gánh nặng khi vợ/chồng mắc sa sút trí tuệ rồi đột ngột phải đảm nhận chăm sóc toàn thời gian là cực kỳ lớn
    Nhìn lại quá khứ, có thể đã từng có những giai đoạn hưng cảm nhẹ như giảm ngủ, hoang tưởng nhẹ, hoặc năng suất tăng vọt từng lúc. Nếu đây là chuyện mới xảy ra thì mong là ông đã hồi phục tốt; các thuốc thế hệ mới để phòng ngừa và điều trị hưng cảm đã cải thiện đáng kể so với trước kia
  • Nghiên cứu này giúp hiểu não tốt hơn và mô hình hóa chính xác hơn các vùng ứng viên cho phẫu thuật động kinh, nhưng không phải là nền tảng cho đọc suy nghĩ. Nếu các công ty đã ở giai đoạn muốn khiến chúng ta sống trong máy MRI để ổn định kích hoạt một vùng não nào đó bằng các kích thích cụ thể, thì đã có những vấn đề lớn hơn nhiều rồi
    Tuy vậy, trong vòng 20 năm, việc tăng cường não bộ bằng cách kết hợp chip cấy có gắn điện cực thần kinh với tính toán AI qua mạng, vượt xa điện cực EEG trên da đầu, có thể là khả thi. Ban đầu não sẽ dùng giao diện đó để tăng cường trí tuệ, nhưng nếu đảo chiều hướng điều khiển bằng thao tác từ xa, kiểu thao túng não đáng lo kia có thể trở thành hiện thực. Tuy nhiên nghiên cứu này còn cách kịch bản đó cả năm ánh sáng, nên nếu không phản đối mọi công nghệ thì rất khó nối hai thứ đó với nhau
  • Điều liên tục được kích hoạt ở người cậu có lẽ là phản ứng chiến đấu-bỏ chạy trong một hoàn cảnh chăm sóc khó lường, hơn là làm việc quá sức
• Việc tự động tìm kiếm kích thích siêu chuẩn bằng hình ảnh rất dễ dẫn tới kết quả xấu
  Nó gợi nhớ tới kích thích siêu chuẩn và truyện BLIT. Một trong các hoạt ảnh V3A có hơi giống thứ tôi từng nhìn thấy vào ban đêm ngay trước khi ngủ hồi nhỏ, dù khi đó hình dạng có vẻ gần với hình tròn hơn
  • Theo cách nói kiểu SCP, có thể gọi đây là hiểm họa nhận thức (cognitohazard). Lý thuyết toán học giải thích vì sao xuất hiện ảo giác cũng có liên quan
    Trong thực tế chăm sóc người khuyết tật trí tuệ, người ta dùng ánh sáng mạnh và các kích thích khác để trấn an và kiểm soát, và tôi biết rằng người tự kỷ bị kích thích rất mạnh bởi màu sắc rực rỡ. Cũng không thể chắc rằng những người còn lại không dễ bị tổn thương trước các kích thích mang tính kiểm soát như vậy
  • Cũng giống như trong Harry Potter có lời cảnh báo rằng hưởng quá nhiều may mắn cũng nguy hiểm, kích thích thị giác tích cực quá mức có thể cũng nguy hiểm theo cách tương tự
• Có rất nhiều người chỉ thoáng thấy những hình ảnh tàn khốc trên mạng nhưng cả đời vẫn muốn quên đi. Những hình ảnh mà công nghệ này có thể tạo ra có thể thực sự kinh khủng, và mức độ não không thể chịu đựng nổi có lẽ còn tệ hơn rất nhiều so với những gì ta từng thấy
  • Có thể tưởng tượng ra một tương lai vào ngày 9 tháng 6 năm 2032, khi startup công nghệ sinh học ReMind đạt IPO kỷ lục sau một màn trình diễn gây sốc và thử nghiệm quy mô nhỏ. Họ sẽ quảng bá rằng camera trên màn hình nhận diện người tiến lại gần và, dựa trên dữ liệu quá khứ, tạo ra hình ảnh gây tác động mạnh nhất lên não để khắc sâu ký ức với độ chính xác trung bình 83% chỉ sau một lần nhìn
    Họ có thể tung ra ReMind Long-term để tạo ký ức dài hạn phục vụ quảng cáo, theo hướng gây ấn tượng kiểu “chấn thương”, và ReMind Short-term cho khuyến mãi ngắn hạn, hoạt động như phiên bản thị giác của một bài hát vướng mãi trong đầu. Một tương lai tươi sáng nơi các hãng quảng cáo đặt hàng hàng chục nghìn lượt và chúng được triển khai ngay lập tức ở siêu thị, thang máy, trạm xăng, giải trí trên máy bay và bảng quảng cáo công cộng
  • Ngày càng giống Langford's Basilisk
• Trong số những ý tưởng nghiên cứu bí mật của tôi, đây thuộc nhóm nguy hiểm và sai trái về đạo đức nhất. Nếu các thế hệ tương lai hỏi vì sao nghiên cứu khoa học máy tính lại bị bắt buộc thẩm định IRB, thì loại nghiên cứu này sẽ là câu trả lời
  Có những nhà nghiên cứu không nhận ra rằng mình đang dần trở thành Fritz Haber
  • Công nghệ nhìn chung luôn làm giảm tự do của chúng ta
• Có phải họ thực sự đang cố tạo ra Snow Crash không? Giải thích liên quan
• Trên thực tế, các thuật toán feed mạng xã hội đã làm việc này ở quy mô lớn, nên thậm chí không cần tới nội dung sinh ra. Trong biển nội dung do người dùng tạo ra đã có sẵn quá đủ tư liệu đạt mức kích hoạt tối đa
  • Kế hoạch là loại bỏ nhà sáng tạo nội dung khỏi quy trình để giảm chia sẻ doanh thu và tăng lợi nhuận
  • Tối ưu hóa mức độ tương tác và tối ưu hóa kích hoạt một vùng não cụ thể của một người cụ thể là những mục tiêu khác nhau ngay từ cấp độ phạm trù
• Việc tìm cách thu hút sự chú ý của con người vốn không phải chuyện mới. Phim hoạt hình thập niên 1950 cũng đã dùng động vật dễ thương, các cảnh ngắn chuyển nhanh và âm nhạc bắt tai để khiến bộ não “ngồi yên mà xem”
  Nhóm tập trung trong quảng cáo phát triển thành thử nghiệm A/B để tìm ra sở thích bộc lộ ra ngoài, còn nghiên cứu về chất béo, muối và đường đã sinh ra đồ ăn nhanh gần như gây nghiện. Công nghệ này chỉ là bước tiếp theo hợp logic mà thôi
  • Sách cũng được thiết kế để cuốn người đọc vào, và ngày xưa người ta từng chỉ trích sách theo cách giống như ngày nay chỉ trích màn hình. Tôi cho rằng hiểu được cơn hoảng loạn cảm xúc khiến con người tự lao vào mới quan trọng hơn là đổ cho công nghệ