- Thông qua đời sống thường ngày của một “thợ sửa phần mềm” xuất hiện trong thời đại phần mềm tạo sinh, bài viết cho thấy thay đổi công nghệ đang làm biến đổi cấu trúc nghề nghiệp và vai trò của con người như thế nào
- Nhân vật chính Tom Hartmann, từng là thợ sửa máy nông nghiệp, nay làm công việc chẩn đoán và sửa lỗi cho phần mềm tạo sinh dùng trong nông nghiệp
- Qua các trường hợp khách hàng, bài viết làm rõ những vấn đề như khoảng cách giữa đặc tả (specification) và hành vi thực tế, lỗi bất ngờ do thay đổi dữ liệu, thất bại trong tích hợp giữa các hệ thống
- Không chỉ là giải quyết vấn đề kỹ thuật, những xung đột tâm lý nhằm duy trì kinh nghiệm, cảm giác kiểm soát và tính chuyên môn của con người liên tục xuất hiện
- Bài viết nhấn mạnh “giá trị bền vững của tri thức miền và phán đoán của con người” trong một xã hội nơi các công cụ tạo sinh đã trở nên phổ biến
Sự xuất hiện của thợ sửa phần mềm
- “Thợ sửa phần mềm (Software Mechanic)” là một nghề mới xuất hiện sau quá trình chuyển đổi sang phần mềm tạo sinh, đảm nhiệm việc chẩn đoán khoảng cách khi công nghệ không vận hành đúng như dự định
- Đây là hình thức tiến hóa của công việc hỗ trợ IT trước đây, nhưng giờ xử lý đặc tả bằng ngôn ngữ tự nhiên (spec) thay vì mã nguồn
- Nhân vật chính Tom vốn là kỹ thuật viên máy nông nghiệp, nhưng khi phần mềm bước vào thời đại được “tái tạo (regeneration)” thay vì “sửa chữa”, anh đã chuyển nghề
- Bài viết mô tả một xã hội nơi ranh giới giữa phần cứng và phần mềm biến mất, và tri thức miền trở thành năng lực cốt lõi
- Thợ sửa ở vùng nông nghiệp phải hiểu nông nghiệp, còn thợ sửa ở khu vực y tế phải hiểu y học
Trường hợp thứ nhất: thất bại mùa thu hoạch do thay đổi mô hình dữ liệu
- Nông dân Margaret Brennan đã tạo ra hệ thống tối ưu thời điểm thu hoạch bằng công cụ tạo sinh và tiết kiệm được khoảng 40.000 USD, nhưng sau một lần cập nhật mô hình lại bị thiệt hại 25.000 USD
- Nguyên nhân là do hiệu chỉnh lại mô hình của nhà cung cấp dữ liệu thời tiết, khiến công cụ đánh giá quá cao độ chín
- Tom giải quyết vấn đề bằng cách thêm điều khoản giám sát thay đổi dữ liệu upstream vào đặc tả
- Khách hàng thường có xu hướng chi tiền cho sửa chữa sau sự cố hơn là phòng ngừa, và Tom gọi đây là “nghịch lý của thợ sửa”
- Dù chi phí thất bại lớn hơn rất nhiều so với chi phí bảo trì, con người vẫn chỉ phản ứng khi khủng hoảng xảy ra
Trường hợp thứ hai: hỗn loạn tích hợp và “hệ thống spaghetti”
- Người chăn nuôi bò sữa trẻ Ethan Novak sử dụng 40 công cụ tạo sinh, và chúng rối vào nhau gây thiệt hại vì không khớp định dạng dữ liệu
- Khi định dạng đầu ra của công cụ thức ăn chăn nuôi thay đổi, công cụ tính giá hiểu sai và dẫn đến một hợp đồng bị ký với giá thấp hơn 8%
- Tom tạm thời áp dụng việc cố định định dạng đầu vào (spec pinning), và về lâu dài khuyên anh thuê “biên đạo phần mềm (Choreographer)”
- Người này sẽ định nghĩa giao diện của toàn bộ hệ thống và xây dựng lớp xác minh khi tái tạo
- Cuối cùng Ethan đã thuê chuyên gia và nhận ra rằng chi phí quản lý công cụ lớn hơn rất nhiều so với “phần mềm miễn phí”
Trường hợp thứ ba: xung đột công nghệ giữa các thế hệ và cảm giác kiểm soát của con người
- Cháu trai của nông dân 71 tuổi Carol Lindgren đã thêm tính năng tối ưu hóa AI vào hệ thống tưới tiêu
- Hệ thống giúp giảm 15% lượng nước sử dụng, nhưng không phản ánh được đặc tính đất và các điều chỉnh dựa trên kinh nghiệm
- Tom đưa ra ba lựa chọn: gỡ bỏ hoàn toàn, tích hợp tri thức kinh nghiệm, hoặc lắp công tắc chuyển đổi thủ công
- Carol chọn phương án thứ ba để kết hợp giữa tự động hóa và phán đoán của con người
- Tom xem công tắc vật lý là một “thiết bị kiểm soát tâm lý”
- Anh giải thích rằng cảm giác người dùng có thể “tự tay đảo ngược” quyết định của máy móc sẽ tạo ra niềm tin
Kết thúc: vai trò con người không thay đổi
- Kết thúc một ngày làm việc, Tom xác nhận rằng dù công nghệ phát triển, tính không hoàn chỉnh của đặc tả và sự phức tạp của thế giới vẫn không giảm đi
- Hiện trường nông nghiệp vẫn cần được điều chỉnh liên tục vì dữ liệu mới, mô hình mới, quy định mới và biến đổi khí hậu
- Phần hậu truyện của từng khách hàng cũng được bổ sung
- Margaret bắt đầu kiểm tra log, Ethan tái cấu trúc hệ thống, còn Carol dùng công tắc 3 lần mỗi tuần
- Máy pha cà phê của Tom vẫn chỉ cho ra thứ “cà phê tạm ổn”, tượng trưng cho một thế giới không hoàn hảo nhưng vẫn vận hành đủ tốt
1 bình luận
Ý kiến trên Hacker News
Trong lúc đọc, tôi hoàn toàn không nghĩ đây là bài do AI viết
Chỉ sau khi xem bình luận tôi mới biết, và cảm thấy như bị đánh lừa nên khá bối rối
Bản thân bài viết thực sự rất hay, đến mức tôi thấy nó có thể xuất hiện trên The New Yorker
Tôi trò chuyện với AI suốt cả ngày, nhưng trải nghiệm lần này vẫn để lại một cảm giác khó chịu kỳ lạ
Tôi thấy những bài như thế này nên được gắn tiền tố như “LLM:”
Việc không nêu rõ chuyện dùng AI và mục đích viết trong nguyên tác là điều đáng tiếc, nhưng dù vậy đây vẫn là một bài tốt và đã khơi ra được cuộc thảo luận có ý nghĩa trên HN
Nhưng sau khi biết là do AI viết, tôi thấy hứng thú giảm đi
Giờ tôi chỉ càng nhận ra rằng không còn dễ phân biệt văn phong đặc trưng của LLM như trước nữa
Nhịp điệu của bài viết có gì đó không tự nhiên
Việc đọc cũng là một sự trao đổi cảm xúc giữa tác giả và độc giả, nên khi sự kết nối ấy biến mất thì ý nghĩa cũng phai nhạt
Sự thật rằng cảm xúc mà tôi tin là đang kết nối với con người thực ra lại là thứ nhân tạo thật sự gây sốc
Ngược lại, nhạc AI phục vụ giải trí đơn thuần thì tôi hoàn toàn không bận tâm
Cuối cùng, điều cốt lõi vẫn là có hay không sự kết nối cảm xúc với con người
Tôi đọc mà không có bất kỳ định kiến nào, rồi sau đó mới ngạc nhiên khi biết đây là bài viết được hỗ trợ bởi AI
Mạch văn cho cảm giác tinh tế, như một hành trình được sắp đặt có chủ ý
Có một chút mâu thuẫn hay chỗ giải thích bị rối, nhưng lúc đó tôi hoàn toàn không ngửi ra mùi AI
Cách sắp xếp hình ảnh cũng phù hợp, và nhìn chung mức độ hoàn thiện khá cao
Thật thú vị khi thấy mọi người đột nhiên phản cảm chỉ vì biết là AI viết
Tôi không đồng ý với đề xuất gắn nhãn như “LLM:” — điều đó chỉ củng cố định kiến
Rốt cuộc, điều quan trọng là độ hoàn thiện của tác phẩm và trải nghiệm của người đọc
Với một cộng đồng kỹ thuật như HN, tôi nghĩ nên đánh giá bằng bản chất của tác phẩm
Khi biết là AI viết, tôi có cảm giác hơi bị lừa, nhưng bản thân bài viết vẫn khá tốt
Tôi nghĩ việc đọc coi trọng ý đồ và nỗ lực, nên dù tác giả có dùng AI thì vẫn cảm nhận được sự chăm chút
Với tư cách là một kỹ sư phần mềm, điều này khiến tôi suy nghĩ rất nhiều
Tôi khá quen với văn phong đặc trưng của LLM nên cảm thấy dấu vết đó xuất hiện nhiều ở đầu bài nhưng giảm dần về sau
Có lẽ phần đầu đã được trau chuốt nhiều hơn
Dù vậy, nhìn chung đây vẫn là một bài viết tốt
Sau này tôi định đưa kiểu diễn đạt này vào lời thoại của nhân vật
Bối cảnh câu chuyện ở gần quê tôi nên tôi đọc rất thích thú
Tuy nhiên có khá nhiều lỗi chi tiết về địa lý thực tế và nông nghiệp
Dù vậy, như một thử nghiệm hư cấu thì vẫn khá thú vị
Nông nghiệp đã hoàn tất quá trình chuyển đổi sang tự động hóa trong suốt thế kỷ 20, còn phần mềm thì giờ mới bắt đầu trải qua quá trình đó
Nếu bài này do AI viết thì lại càng đáng nể hơn
Logic tính giá trong câu chuyện có vẻ kỳ lạ
Nếu chi phí thức ăn chăn nuôi bị tính cao thì biên lợi nhuận sẽ giảm, nên phải tăng giá, nhưng trong bài lại nói ngược là giảm giá
Có vẻ như là một mâu thuẫn logic
Trên thực tế, nếu chi phí thức ăn bị thổi phồng thì bình thường phải tăng giá
Có lẽ logic trong câu chuyện đã bị lật ngược
Thật mỉa mai khi một câu chuyện nói về lỗi đặc tả lại tự sinh ra lỗi đặc tả như vậy
Hiếm khi tôi thấy một bài do AI viết mà đọc tự nhiên đến vậy
Có một vài điểm không nhất quán, nhưng nhìn chung văn phong mượt mà
Nội dung này bắt chước hoàn hảo phong cách tạp chí khoa học viễn tưởng thập niên 1920, nên tôi nhận ra AI gần như ngay lập tức
Ngay cả con người cũng không dễ cố tình mô phỏng kiểu văn cổ điển này
Văn phong quá khái quát hóa, không cảm nhận được cá tính của một tác giả con người
Cuối cùng nó giống như một ý tưởng bắt nguồn từ một prompt tốt
Vấn đề đặc trưng của LLM là có thể khắc phục được
Nếu cho nhiều AI rà soát chéo thì có thể giảm lỗi logic
Nhưng bản thân ý tưởng của bài này thật sự rất xuất sắc
Chuỗi thất bại do cập nhật mô hình thời tiết, sự thiếu vắng thiết kế hệ thống, tầm quan trọng của một công tắc giá 4 USD
Tôi thấy những insight như vậy còn hay hơn phần lớn các bài tiểu luận nghiêm túc
Bài viết không hoàn hảo, nhưng nó có sức mạnh khiến người ta phải suy nghĩ
Câu “người hiểu domain và có thể chẩn đoán vấn đề trong đặc tả mới là người quý giá nhất” thật sự gây ấn tượng với tôi
Tôi cũng chuyển từ vật lý và điện tử sang phần mềm nên rất đồng cảm
Xét ở chỗ các lập trình viên đi từ lĩnh vực khác sang đã tạo nên nền móng của phần mềm, thì thay đổi hiện nay không phải điều gì mới mà giống như một sự quay trở lại hơn
Bài viết hay, nhưng nếu ngắn hơn khoảng 10% thì có lẽ phép ẩn dụ cốt lõi sẽ truyền tải tốt hơn
Phần mô tả chi tiết nông nghiệp dài một cách không cần thiết
Có lẽ nên tham khảo những phép ví von ngắn và cô đọng như truyện ngắn của Kafka
Khi thấy ảnh header là ảnh do AI tạo, tôi lập tức mất hoàn toàn hứng thú với bài viết
Tôi cũng có nghi ngờ, nhưng không tìm ra dấu vết rõ ràng nào
Chỉ là tôi có linh cảm rằng với một bài viết ở quy mô này thì người ta sẽ không thuê hẳn họa sĩ minh họa
Tôi hoàn toàn không ngờ phần thân bài cũng do AI viết