Harvard Business Review nhận định các rủi ro và thách thức mới của AI tạo sinh

Harvard Business Review nhận định các rủi ro và thách thức mới của AI tạo sinh
01.02.2024 481

Sự phát triển nhanh chóng của AI tạo sinh, bao gồm các mô hình Ngôn ngữ lớn (LLM) như ChatGPT/GPT-4 của OpenAI, đang tạo ra những rủi ro và thách thức mới cho doanh nghiệp. Theo nhóm tác giả của tạp chí HBR (I. Glenn Cohen, Theodoros Evgeniou và Martin Husovec), các công ty nên chú trọng việc xây dựng các chính sách thực tiễn liên quan đến việc sử dụng các công nghệ này.

Rò rỉ thông tin

thach-thuc-va-rui-ro-AI-tao-sinh-3

Đầu năm 2023, Samsung đã phát hiện ra nhân viên vô tình chia sẻ dữ liệu bí mật với ChatGPT - điều này có nghĩa là thông tin độc quyền của công ty có thể được sử dụng để đào tạo mô hình OpenAI và có khả năng bị tiết lộ cho những người dùng khác. Tương tự, bằng một số kỹ thuật nhắc nhở thông minh, người dùng đã thuyết phục được chatbot AI của Microsoft chia sẻ thông tin mật. Bất chấp các biện pháp bảo mật đang được áp dụng, rõ ràng LLM có khả năng gây ra rủi ro đáng kể đối với thông tin bí mật hoặc nhạy cảm.

Việc giải quyết rủi ro này đòi hỏi nỗ lực chung của cả người dùng và nhà phát triển các công cụ AI. Ví dụ: phải cân nhắc các nguyên tắc dành cho gợi ý mà nhân viên sử dụng làm đầu vào cho các công cụ AI, hay các công cụ cảnh báo nhân viên khi họ chuẩn bị gửi nội dung có thể bao gồm thông tin nhạy cảm của công ty tới AI của bên thứ ba.

Các nhà phát triển AI cũng cần phải tiến hành thẩm định cẩn thận đối với cả dữ liệu và nhà cung cấp dữ liệu khi đào tạo các mô hình AI. Điều này có nghĩa là luôn xem xét cẩn thận nguồn gốc của dữ liệu.

Ví dụ: Getty gần đây đã chia sẻ kế hoạch phát triển các công cụ AI tạo sinh sẽ được đào tạo về nội dung được cấp phép đầy đủ, đảm bảo rằng những người sở hữu bản quyền hình ảnh được sử dụng để đào tạo AI có thể nhận được tiền bản quyền. Cách này cũng hứa hẹn sẽ bảo vệ những người sử dụng hệ thống khỏi các vụ kiện vi phạm bản quyền đối với sản phẩm của AI do nguồn gốc của dữ liệu đào tạo.

Kết quả đầu ra không chính xác

AI tạo sinh được đào tạo trên một tập dữ liệu nhất định, và không có cách nào dễ dàng để truy ngược nguồn đầu vào cụ thể cho mỗi sản phẩm được tạo ra, hoặc cài đặt AI “quên” đi mọi dữ liệu không chính xác hoặc bất hợp pháp.

Do đó, những công cụ này có nguy cơ tạo ra kết quả đầu ra không chính xác, có thể gây thiệt hại đáng kể. Khi chatbot AI của Google mắc lỗi cơ bản trong bản demo đầu tiên, định giá của công ty đã giảm hơn 100 tỷ USD. Nội dung gây hiểu lầm và các lỗi khác xâm nhập vào kết quả đầu ra của LLM, từ những sai lầm gây cười đến thông tin sai lệch gây tổn thất nặng nề.

Các nhà phát triển AI cũng như người dùng cần phải kiểm tra và phản hồi để đảm bảo chất lượng đầu ra và liên tục cải thiện chúng. Ngoài ra, công ty cũng cần giám sát chất lượng sản phẩm cuối cùng được tạo ra khi nhân viên sử dụng AI. Mặc dù nhiều người cho rằng LLM có thể giúp cải thiện hiệu suất làm việc. Song, nghiên cứu gần đây của một đội nhóm từ Harvard, MIT, Đại học Pennsylvania và Công ty tư vấn Boston lại cho thấy rằng một số công việc có thể chịu ảnh hưởng xấu. Điều gì sẽ xảy ra nếu ChatGPT dẫn đến hiệu suất kém hơn hoặc ảnh hưởng xấu đến chất lượng của các quyết định và dịch vụ? Để ứng phó với vấn đề này, các công ty cần có chính sách sử dụng AI và giám sát nghiêm ngặt chất lượng công việc được tạo ra nhờ sử dụng trí tuệ nhân tạo.

Các rủi ro tiềm ẩn

thach-thuc-va-rui-ro-AI-tao-sinh-2

Các nội dung không chính xác có thể dẫn đến một loạt rủi ro trách nhiệm khi sử dụng AI trong kinh doanh. Các công cụ như GPT-4 vượt qua các bài kiểm tra chuyên môn và thực hiện một số nhiệm vụ nhất định ngang bằng với con người, nên ngày càng có nhiều ứng dụng AI này vào thực tế. Mặc dù điều này tạo ra những cơ hội phát triển mới, song nó cũng tạo ra rủi ro mới vì các công ty có thể phải chịu trách nhiệm về mọi nội dung không chính xác mà những công cụ này đưa ra.

Ví dụ: ChatGPT đã được chứng minh là có hiệu quả trong việc tạo ra những bản thảo đầu tiên của các văn bản pháp lý cơ bản như hợp đồng, di chúc và khiếu nại. Tuy nhiên, khi luật sư sử dụng ChatGPT để soạn thảo hợp đồng cho khách hàng lại không nhận thấy rằng nội dung được tạo ra bao gồm các điều khoản bất lợi và không chính xác, dẫn đến hợp đồng không thể được thực hiện. Hoặc nếu một luật sư sử dụng ChatGPT để soạn thảo đơn khiếu nại về tranh chấp hợp đồng, và nó tạo ra các chi tiết không đúng sự thật về vụ việc thì luật sư có thể bị kiện.

Rủi ro pháp lý

Tốc độ đổi mới nhanh chóng khiến các công cụ AI có thể vi phạm các quy định kỹ thuật số ngay khi chúng có hiệu lực. Ví dụ: LLM và một số mô hình nền tảng đã vi phạm một số quy định bao gồm Đạo luật dịch vụ kỹ thuật số của EU được thông qua gần đây, để đảm bảo sự tin cậy và an toàn trực tuyến, cũng như đề xuất Đạo luật AI của EU.

Rõ ràng, các quy định quản lý việc sử dụng AI vẫn đang được phát triển. Nhưng khi luật mở rộng để bao gồm các công cụ AI tạo sinh mới, các công ty có thể phải đối mặt với những rào cản pháp lý mới. Ví dụ: về mặt sở hữu trí tuệ, nhiều vụ kiện tụng đang chờ xử lý liên quan đến lo ngại về bản quyền từ các nghệ sĩ và người sáng tạo có nội dung được sử dụng để đào tạo các mô hình AI. Các công ty sử dụng các công cụ được xây dựng trên dữ liệu có nguồn gốc đáng ngờ có thể vô tình thấy mình vi phạm bản quyền và các quy định khác khi các cấu trúc pháp lý này hoàn thiện.

Áp lực cạnh tranh

Bất chấp nhiều rủi ro, khi AI tạo sinh ngày càng trở nên phổ biến trong nhiều ngành nghề, việc chọn không sử dụng nó có thể trở nên khó chấp nhận. Chẳng hạn, nếu việc sử dụng LLM có thể giúp luật sư tiết kiệm được vài giờ làm việc phải trả, thì khách hàng của họ có thể sẽ gây áp lực buộc họ phải làm như vậy - ngay cả khi hệ thống giám sát đầu ra của các công cụ này vẫn còn khá hạn chế.

Doanh nghiệp của bạn đã sẵn sàng cho AI tạo sinh chưa?

thach-thuc-va-rui-ro-AI-tao-sinh-1

Hiện tại, AI tạo sinh vẫn chủ yếu được sử dụng khi truy cập một trang web cụ thể và đưa ra yêu cầu về thông tin và hình ảnh giống như một cuộc trò chuyện. Nhưng khi các công ty phát triển AI đang nhanh chóng thúc đẩy sự tích hợp toàn diện hơn nhiều vào các sản phẩm quen thuộc hiện có, chúng ta có thể không còn xa thời điểm mà AI tạo sinh sẽ trở nên phổ biến. Hiện nay, có nhiều phần mềm quản lý doanh nghiệp đã được tích hợp thêm AI nhằm mục đích hỗ trợ tối đa cho nhu cầu của tổ chức.

Các nhà lãnh đạo cần hiểu cả những ứng dụng tiềm năng và những rủi ro của trí tuệ nhân tạo để có thể đưa ra và áp dụng các chính sách, quy trình có thể giúp tổ chức có khởi đầu thuận lợi trong việc quản lý và sử dụng AI.

(Bài viết được dịch và biên tập từ Harvard Business Review: Navigating the New Risks and Regulatory Challenges of GenAI)


★★★★★
★★★★★
0/5 - (0 bình chọn) Click để đánh giá
Cùng chuyên mục
Tối ưu vận hành với hệ thống quản lý doanh nghiệp
02.03.2024 79
Trong thời đại 4.0, việc xây dựng hệ thống quản lý doanh nghiệp mạnh mẽ đang được rất nhiều doanh nghiệp chú trọng. Với một hệ thống quản lý doanh nghiệp chặt chẽ, nhà lãnh đạo có thể nâng cao hiệu quả quản trị, năng lực cạnh tranh của tổ chức cũng như hướng tới sự phát triển bền vững.
Trí tuệ nhân tạo là gì? Hé lộ tương lai với AI
01.03.2024 10
Artificial Intelligence (AI), hay "trí tuệ nhân tạo" như được biết đến ở Việt Nam, là biểu tượng của sự sáng tạo con người, bao gồm nỗ lực không ngừng của chúng ta để tạo ra máy móc mô phỏng trí tuệ con người. Bài viết này bắt đầu hành trình khám phá để làm sáng tỏ AI, truy tìm nguồn gốc của nó, tiết lộ cơ chế hoạt động và dự đoán hướng đi của nó, từ đó vẽ nên bức tranh toàn diện về công nghệ biến đổi này.
Hệ thống văn phòng điện tử: Bí kíp cải thiện hiệu quả làm việc
29.02.2024 27
Trong thời đại công nghệ số, việc áp dụng hệ thống văn phòng điện tử đã trở thành một bước tiến quan trọng đối với mọi doanh nghiệp. Bài viết này sẽ đi sâu vào lợi ích và tầm quan trọng của việc triển khai hệ thống văn phòng điện tử, cũng như đưa ra một số gợi ý về cách lựa chọn và triển khai hệ thống phù hợp với nhu cầu của doanh nghiệp.
Ứng dụng phần mềm chuyển đổi số để tối ưu hiệu quả kinh doanh
29.02.2024 677
Trong thế giới kinh doanh ngày nay, việc áp dụng phần mềm chuyển đổi số không còn là lựa chọn mà đã trở thành yếu tố thiết yếu để tồn tại và phát triển. Công nghệ kỹ thuật số mang lại cơ hội để doanh nghiệp cải thiện quy trình, tăng cường hiệu suất và tạo ra lợi thế cạnh tranh bền vững. Dưới đây là cái nhìn sâu sắc về cách thức phần mềm chuyển đổi số hỗ trợ các doanh nghiệp trong việc thích ứng và phát triển trong kỷ nguyên số.
Phần mềm chăm sóc khách hàng và lý do doanh nghiệp nên trang bị
28.02.2024 266
Phần mềm chăm sóc khách hàng là công cụ hỗ trợ doanh nghiệp quản lý và tối ưu hóa các hoạt động liên quan đến khách hàng. Hệ thống giúp lưu trữ thông tin, theo dõi tương tác, quản lý các kênh liên lạc và tự động hóa quy trình bán hàng.
10 tính năng hàng đầu nên tìm kiếm trong hệ thống CRM hiện đại
22.02.2024 251
Để giúp bạn lựa chọn được giải pháp CRM phù hợp, các chuyên gia của Bitrix24 đã gợi ý 10 tính năng hàng đầu nên tìm kiếm trong hệ thống CRM hiện đại.
Làm sao để chọn giải pháp AI phù hợp cho CRM của bạn?
20.02.2024 360
Các chuyên gia của Bitrix24 đã đưa ra những gợi ý về cách lựa chọn và triển khai công cụ AI trong CRM, cho phép doanh nghiệp tối ưu hóa tương tác với khách hàng, tăng năng suất và thúc đẩy tăng trưởng doanh thu.
4 xu hướng nổi bật về thị trường bán lẻ online 2024
06.02.2024 828
Theo báo cáo toàn cảnh thị trường sàn bán lẻ trực tuyến 2023 và dự báo 2024 được Metric công bố, có 4 xu hướng nổi bật về thị trường bán lẻ online 2024
Harvard Business Review nhận định các rủi ro và thách thức mới của AI tạo sinh
01.02.2024 482
Sự phát triển nhanh chóng của AI tạo sinh, bao gồm các mô hình Ngôn ngữ lớn (LLM) như ChatGPT/GPT-4 của OpenAI, đang tạo ra những rủi ro và thách thức mới cho doanh nghiệp. Theo nhóm tác giả của tạp chí HBR (I. Glenn Cohen, Theodoros Evgeniou và Martin Husovec), các công ty nên chú trọng việc xây dựng các chính sách thực tiễn liên quan đến việc sử dụng các công nghệ này.
Forbes: 9 điều nên cân nhắc khi lựa chọn phần mềm quản lý dự án
30.01.2024 573
Với phần mềm quản lý dự án phù hợp, doanh nghiệp có thể tiết kiệm thời gian và tiền bạc, đồng thời tối ưu hóa quy trình làm việc. Forbes đưa ra 9 gợi ý về các yếu tố doanh nghiệp nên xem xét khi tìm kiếm phần mềm quản lý dự án cho doanh nghiệp của mình.
Cách mạng hóa việc lưu trữ giấy tờ với phần mềm quản lý tài liệu
24.01.2024 223
Với những lợi ích tuyệt vời, phần mềm quản lý tài liệu đang dần thay thế cách quản lý truyền thống rườm rà có nhiều rủi ro, đồng thời giúp doanh nghiệp yên tâm hơn về tính bảo mật thông tin cùng kho lưu trữ rộng lớn vô thời hạn.
Forbes chia sẻ cách lựa chọn phần mềm quản lý công việc
23.01.2024 420
Phần mềm quản lý công việc được thiết kế giúp người dùng quản lý toàn bộ các đầu mục công việc, từ đó đẩy nhanh tốc độ xử lý, giảm thiểu sai sót và đưa ra những quyết định kịp thời, chính xác.
11 bước tạo lập và quản lý quy trình công việc hiệu quả
18.01.2024 346
Xây dựng quy trình làm việc là điều bắt buộc phải có nếu bạn muốn doanh nghiệp của mình hoạt động trơn tru, hiệu quả. Và phần mềm quản lý quy trình công việc là một công cụ quan trọng giúp tối ưu hoạt động này cho doanh nghiệp.
Forbes gợi ý 5 xu hướng quản lý nhân sự 2024
16.01.2024 677
Xu hướng quản lý nhân sự cho năm 2024 là gì? Sau suốt một năm trò chuyện, thảo luận cùng những chuyên gia trong lĩnh vực nhân sự, tác giả Meghan M. Biro đã tổng hợp các chủ đề được quan tâm hàng đầu.
Havard Business Review: những lưu ý về kinh tế toàn cầu 2024
11.01.2024 242
Theo tác giả Walter Frick, tình hình kinh tế chung vào năm 2024 sẽ tiếp tục khó khăn - nhưng có những chủ đề và câu hỏi quan trọng mà mỗi nhà lãnh đạo doanh nghiệp nên để ý khi chuẩn bị cho 2024.
Quản lý
Tối ưu vận hành với hệ thống quản lý doanh nghiệp
02.03.2024 79
Trong thời đại 4.0, việc xây dựng hệ thống quản lý doanh nghiệp mạnh mẽ đang được rất nhiều doanh nghiệp chú trọng. Với một hệ thống quản lý doanh nghiệp chặt chẽ, nhà lãnh đạo có thể nâng cao hiệu quả quản trị, năng lực cạnh tranh của tổ chức cũng như hướng tới sự phát triển bền vững.

Phát triển bản thân
Cách giao tiếp, ứng xử khi làm việc với đối tác châu Âu
20.11.2019 7288
Mặc dù trình độ phát triển giữa EU và các nước ngoài khối có khác nhau, nhưng nhìn chung, các nước châu Âu đều có một số giá trị và nguyên tắc cơ bản được tôn trọng, đó là: Tự do và độc lập cá nhân; công lý bình đẳng và luật pháp; nhân văn, nhân quyền và khai sáng; tài sản cá nhân, sự thịnh vượng; hạnh phúc; hoạt động hiệu quả, có kế hoạch; quý trọng thời gian; trách nhiệm với môi trường tự nhiên và xã hội.

Công nghệ
Gemini (Google Bard) và ChatGPT: AI nào tốt hơn?
01.03.2024 193
Các chuyên gia của Bitrix24 đã tổng hợp một số đánh giá về ưu và nhược điểm của 2 công cụ AI nổi trội hiện nay, nhằm giúp bạn lựa chọn được AI phù hợp với nhu cầu của mình.

Giải trí
10 điều ‘dân văn phòng’ cần tránh mỗi buổi sáng khi đến văn phòng
23.10.2019 2781
Đối với nhiều người, khoảng thời gian mới bắt đầu tới văn phòng là khoảng thời gian chuẩn bị hoặc đơn giản chỉ là khoảng thời gian nghỉ ngơi khi vừa di chuyển tới văn phòng hay để chuẩn bị cho 1 ngày dài làm việc. Tuy nhiên đây là 10 điều mà bạn cần tránh trong 10 phút đầu tiên khi bạn bước vào văn phòng làm việc. Hãy xem mình có bao nhiêu thói quen xấu và thay đổi ngay từ ngày mai đi nhé! Dưới đây là 10 sai lầm thường mắc phải nhất khi bắt đầu một ngày làm việc.