Sinh viên FPT “Học tăng cường cho mô hình ngôn ngữ lớn” cùng chuyên gia AI Google

Sinh viên Trường ĐH FPT trải nghiệm nghiên cứu cùng chuyên gia AI qua chương trình Reinforcement Learning (Học tăng cường) cho các mô hình ngôn ngữ (lớn) trong giáo dục với diễn giả -Tiến sĩ ĐH Cambridge, chuyên gia AI Google - Sian Gooding.

Tiến sĩ ĐH Cambridge, chuyên gia AI Google - Sian Gooding chia sẻ những kiến thức chuyên sâu thực tế về dự án RLHF - Reinforcement Learning from Human Feedback của Google cùng sinh viên Trường Đại học FPT

Tại Talkshow “Reinforcement Learning (Học tăng cường) cho các mô hình ngôn ngữ (lớn) trong giáo dục”, Tiến sĩ ĐH Cambridge, Sian Gooding - chuyên gia AI Google cho biết, chúng ta đang đứng trước những thực trạng bất cập của mô hình ngôn ngữ lớn.

Chẳng hạn như GPT-3 được đào tạo trên một lượng lớn dữ liệu văn bản từ internet và có khả năng tạo ra văn bản giống con người, nhưng không phải lúc nào cũng có khả năng tạo ra đầu ra phù hợp với kỳ vọng của con người hoặc các giá trị mong muốn. Đôi khi các mô hình này thiếu hữu ích khi không bám sát hướng dẫn hoặc yêu cầu của người dùng. Đôi khi có khả năng gây ảo giác, tạo nên sự thật không tồn tại hoặc sai. Đôi khi thiếu khả năng diễn giải khi khiến người dùng khó hiểu làm thế nào mô hình đưa ra nội dung hoặc dự đoán cụ thể. Đôi khi nguy hiểm hơn là khả năng tạo đầu ra sai lệch hoặc độc hại: một mô hình ngôn ngữ được đào tạo về dữ liệu sai lệch/độc hại có thể tái tạo điều đó trong đầu ra, ngay cả khi hệ thống không được hướng dẫn rõ ràng để thực hiện điều đó.

Trước thực trạng bất cập này, dự án nghiên cứu AI của Google ứng dụng Học tăng cường từ phản hồi của con người (RLHF - Reinforcement Learning from Human Feedback) ra đời. RLHF là một kỹ thuật đào tạo các mô hình ngôn ngữ lớn sử dụng phương pháp học tăng cường để trực tiếp tối ưu hóa mô hình ngôn ngữ với phản hồi con người.

Học tăng cường từ phản hồi của con người tập trung vào việc tạo mô hình phần thưởng, lời chú giải của con người cho máy học. Qua đó, có thể nắm bắt các văn bản phức tạp, nhiều sắc thái khó mã hóa bề ngoài thông qua các số liệu. Chia sẻ tại Trường Đại học FPT, Tiến sĩ ĐH Cambridge, chuyên gia AI Google - Sian Gooding cho biết dự án nghiên cứu RLHF của Google thực hiện phân tích các đặc điểm văn bản tương quan với thỏa thuận của người chú thích và có thể ứng dụng mô hình RLHF trong lĩnh vực giáo dục.

Sinh viên Trường Đại học FPT tích cực hỏi đáp với diễn giả để hiểu sâu hơn về dự án Học tăng cường cho các mô hình ngôn ngữ (lớn) của Google

Chia sẻ sâu hơn về dự án tại Google, diễn giả cho biết Google đào tạo mô hình này bằng cách sử dụng Học tăng cường từ phản hồi của con người (RLHF), sử dụng các phương pháp tương tự như InstructGPT, nhưng có một vài điểm khác biệt trong thiết lập thu thập dữ liệu. Nhóm nghiên cứu đào tạo một mô hình ban đầu bằng cách sử dụng tinh chỉnh có giám sát: những người huấn luyện Al là con người cung cấp các cuộc hội thoại mà họ đóng vai cả hai bên - người dùng và trợ lý Al.

“Chúng tôi cung cấp cho các giảng viên quyền truy cập vào các gợi ý được viết theo mẫu để soạn câu trả lời. Chúng tôi trộn tập dữ liệu hội thoại mới này với tập dữ liệu InstructGPT đã chuyển đổi thành định dạng hội thoại. Để tạo một mô hình phần thưởng cho việc học tăng cường, chúng tôi cần thu thập dữ liệu so sánh, bao gồm hai hoặc nhiều phản hồi mô hình được xếp hạng theo chất lượng. Để thu thập dữ liệu này, chúng tôi thực hiện các cuộc trò chuyện mà người huấn luyện Al đã từng thực hiện với chatbot”, Tiến sĩ Sian Gooding trình bày tại buổi hội thảo.

Chuyên gia AI Google với những chia sẻ chuyên sâu về dự án nghiên cứu AI Học tăng cường từ phản hồi của con người

Diễn giả cũng cho biết thêm về quy trình của nghiên cứu dự án ứng dụng AI Học tăng cường từ phản hồi của con người gồm Phỏng vấn tận tình nhóm người tham gia; Xác định điểm đau; Thiết kế lại giao diện; Đo lường tương tác của người dùng. Cùng các bước thực hiện: Đào tạo trước mô hình ngôn ngữ mục tiêu; Đào tạo mô hình khen thưởng mục tiêu; Tinh chỉnh với học tăng cường bộ dữ liệu nhắc nhở trạng thái.

Nói về cơ hội các ứng dụng mô hình Học tăng cường từ phản hồi của con người vào giáo dục, Tiến sĩ Sian Gooding cho biết “Các mô hình ngôn ngữ, có khả năng cách mạng hóa ngành giáo dục, mang đến cho sinh viên trải nghiệm học tập cá nhân hóa và hiệu quả”. Có thể bằng cách tích hợp vào nền tảng của họ, các công ty sản phẩm có thể tạo nội dung giáo dục tùy chỉnh phù hợp với nhu cầu, trình độ kỹ năng và sở thích của mỗi học sinh. Để mang lại trải nghiệm học tập tích cực hơn, có thể ứng dụng tính năng đàm thoại với khả năng xử lý ngôn ngữ tự nhiên của mô hình RLHF, tạo điều kiện thuận lợi cho việc học đàm thoại, giúp giáo dục trở nên hấp dẫn và được chủ động hưởng ứng, tương tác hơn từ người học.

Chuỗi Talkshow “AI Research For Educational Technology” là cơ hội để khách mời và sinh viên Trường Đại học FPT phân hiệu TP. HCM được trực tiếp chia sẻ từ các chuyên gia, nhà nghiên cứu:

• Sian Gooding - Tiến sĩ Đại học Cambridge, chuyên gia về AI-NLP xử lý ngôn ngữ tự nhiên, diễn giải và ứng dụng AI cho giáo dục, hiện là Nhà nghiên cứu khoa học về AI tại Google Research với những nghiên cứu đột phá và đóng góp quan trọng cho lĩnh vực Trí tuệ nhân tạo tại Google

• Christopher Bryant - Tiến sĩ Đại học Cambridge, chuyên gia về AI-NLP xử lý ngôn ngữ tự nhiên, hiện là Cộng tác viên nghiên cứu lĩnh vực AI-NLP tại Đại học FPT, đồng thời là Nhà nghiên cứu khoa học tại Đại học Cambridge, Nhà nghiên cứu ứng dụng AI tại Writer Inc

• Nguyễn Hoàng Bảo Nguyên - Tiến sĩ Đại học Cambridge, hiện là Giảng viên - Nghiên cứu viên tại Đại học FPT, đồng thời duy trì các dự án nghiên cứu tại Đại học Cambridge và Đại học Quốc gia Úc

Theo Yeah1.com

đăng ký

>>> Nhóm sinh viên Đại học FPT phát triển sản phẩm AI “phát hiện hành vi bất thường bằng camera an ninh”
>>> Đồ án của sinh viên ngành Trí tuệ nhân tạo được chấp thuận tại hội thảo khoa học quốc tế ICAISC 2023

>>> Sinh viên ngành Kinh doanh Quốc tế gây ấn tượng với dự án “Trung tâm chăm sóc sức khoẻ phong cách Nhật Bản” 

0/5 (0 Reviews)

Câu hỏi thường gặp

01 Điều kiện thi học bổng năm 2024

Thí sinh đạt Top 20 Schoolrank trở lên thì đủ điều kiện đăng ký dự thi học bổng. Kỳ thi được tổ chức tại Đại học FPT.

Đề thi học bổng gồm 2 môn:
- Môn trắc nghiệm toán tư duy: 90 câu, thời gian làm bài 120 phút, thang điểm tối đa 90 điểm.
- Môn luận văn: 1 đề duy nhất, thời gian làm bài 60 phút, thang điểm tối đa 15 điểm.

Điều kiện để thí sinh tham gia xét học bổng xem chi tiết tại trang Học bổng.

02 Ngành học và mã ngành của trường ĐH FPT năm 2024

Mã trường: FPT

Khối ngành Ngành Mã ngành Chuyên Ngành
III Quản trị kinh doanh 7340101 Digital Marketing; Kinh doanh quốc tế; Quản trị khách sạn; Quản trị dịch vụ du lịch & lữ hành; Tài chính; Logistic và quản lý chuỗi cung ứng.
V Công nghệ thông tin 7480201 Kỹ thuật phần mềm; Hệ thống thông tin; Trí tuệ nhân tạo; An toàn thông tin; Thiết kế Mỹ thuật số; Công nghệ ô tô số.
VII Công nghệ truyền thông (dự kiến) 7320106 Truyền thông đa phương tiện; Quan hệ công chúng.
Ngôn ngữ Anh 7220201 Ngôn ngữ Anh
Ngôn ngữ Nhật 7220209 Song ngữ Nhật – Anh
Ngôn ngữ Hàn Quốc 7220210 Song ngữ Hàn – Anh
Ngôn ngữ Trung Quốc (dự kiến) 7220204 Song ngữ Trung – Anh

Đăng ký

03 Làm thế nào để nộp hồ sơ vào Đại học FPT?

Ngay từ bây giờ, thí sinh quan tâm đến nộp hồ sơ vào Đại học FPT có thể đăng ký tại link này hoặc vui lòng liên hệ hotline (024) 7300.5588.

04 Chương trình học của Đại học FPT là giảng dạy bằng Tiếng Anh hay Tiếng Việt?

Tại trường Đại học FPT, Tiếng Anh là ngôn ngữ chính được sử dụng trong học tập, thi cử và giảng dạy. Sinh viên được sử dụng miễn phí giáo trình nhập khẩu từ nước ngoài, cung cấp bởi các nhà xuất bản danh tiếng trên thế giới.

05 Lộ trình học của Sinh viên

- Năm 1: Sinh viên được học tiếng anh dự bị, kỹ năng mềm, võ Vovinam, nhạc cụ dân tộc

- Năm 2: Sinh viên bắt đầu vào học chuyên ngành.
+ Với Khối ngành CNTT, sinh viên được học thêm ngoại ngữ thứ hai là tiếng Nhật.
+ Với Khối ngành Quản trị kinh doanh, sinh viên được học thêm ngoại ngữ thứ hai là tiếng Trung.

- Năm 3: ngoài học chuyên ngành sinh viên sẽ có 1 kỳ thực tập thực tế ở doanh nghiệp kéo dài 4 tháng, tại kỳ thực tập sinh viên sẽ được làm việc thật như 1 nhân viên chính thức tại công ty, nhà trường sẽ hỗ trợ sinh viên tìm đơn vị thực tập

- Năm 4: sau khi sinh viên thực tập xong sẽ quay trở lại trường lựa chọn chuyên ngành hẹp, làm đồ án kết thúc lộ trình học 4 năm tại Đại học FPT

06 Các tuyến Bus đi qua Đại học FPT

Bus số 74; 107; 88; 117; 119

07 Để trở thành sinh viên tại Đại học FPT tôi có cần đáp ứng yêu cầu chuẩn Tiếng Anh đầu vào nào không?

Đối với chương trình đào tạo của Đại học FPT, nếu sinh viên đáp ứng được chuẩn IELTS 6.0 trở lên hoặc tương đương sẽ được miễn Tiếng Anh nền tảng năm đầu tiên để vào học chuyên ngành.

Đối với trường hợp sinh viên chưa đáp ứng được điều kiện Tiếng Anh như trên sẽ được đào tạo Tiếng Anh dự bị, chuẩn bị đầy đủ kiến thức cho việc học chuyên ngành. (Số cấp độ tiếng Anh được dạy trong năm đầu tiên sẽ phụ thuộc vào trình độ của sinh viên sau khi thực hiện bài kiểm tra đầu vào).

08 Các trang thông tin của Đại học FPT Hà Nội

- Website: http://hanoi.fpt.edu.vn/

- Fanpage: https://www.facebook.com/DaihocFPTHaNoi

- Group Ôn thi học bổng: https://www.facebook.com/sanhocbongdaihocfpt

- Hotline: 02473005588

Để lại bình luận của bạn

Địa chỉ email của bạn sẽ không bị công khai, các trường bắt buộc được đánh dấu *