Thị trường
Cách DeepSeek sử dụng phương pháp chưng cất để đào tạo mô hình trí tuệ nhân tạo
Minh Ngọc - Chủ Nhật, 23/02/2025 8:34 SA
Vietnet24h - Phòng thí nghiệm trí tuệ nhân tạo Trung Quốc DeepSeek đã khuấy động thị trường vào tháng 1, gây ra một đợt bán tháo công nghệ và chất bán dẫn lớn sau khi công bố các mô hình AI mà họ cho là rẻ hơn và hiệu quả hơn so với các mô hình của Mỹ.
Nhưng nỗi sợ hãi và đột phá tiềm ẩn đã thúc đẩy đợt bán tháo này còn sâu sắc hơn nhiều so với một công ty khởi nghiệp AI. Thung lũng Silicon hiện đang tính đến một kỹ thuật trong phát triển AI được gọi là chưng cất, một kỹ thuật có thể đảo ngược bảng xếp hạng AI.
 
Chưng cất là một quá trình trích xuất kiến ​​thức từ một mô hình AI lớn hơn để tạo ra một mô hình nhỏ hơn. Nó có thể cho phép một nhóm nhỏ hầu như không có nguồn lực nào tạo ra một mô hình tiên tiến.
 
Một công ty công nghệ hàng đầu đầu tư nhiều năm và hàng triệu đô la để phát triển một mô hình hàng đầu từ đầu. Sau đó, một nhóm nhỏ hơn như DeepSeek lao vào và đào tạo mô hình chuyên biệt hơn của riêng mình bằng cách đặt câu hỏi cho mô hình "giáo viên" lớn hơn. Quá trình này tạo ra một mô hình mới có khả năng gần như mô hình của công ty lớn nhưng đào tạo nhanh hơn và hiệu quả hơn.
 
“Kỹ thuật chưng cất này cực kỳ mạnh mẽ và cực kỳ rẻ, và nó dành cho bất kỳ ai”, Ali Ghodsi, CEO của Databricks, cho biết, đồng thời nói thêm rằng ông hy vọng sẽ thấy sự đổi mới khi nói đến cách xây dựng các mô hình ngôn ngữ lớn hay LLM. “Chúng ta sẽ thấy rất nhiều sự cạnh tranh cho LLM. Đó là những gì sẽ xảy ra trong kỷ nguyên mới mà chúng ta đang bước vào”.
 
Hiện nay, chưng cất đang cho phép các công ty khởi nghiệp và phòng nghiên cứu ít vốn cạnh tranh ở vị trí tiên tiến nhanh hơn bao giờ hết.
 
Các nhà nghiên cứu tại Berkeley cho biết, sử dụng kỹ thuật này, họ đã tái tạo mô hình lý luận của OpenAI với giá 450 đô la trong 19 giờ vào tháng trước. Ngay sau đó, các nhà nghiên cứu tại Stanford và Đại học Washington đã tạo ra mô hình lý luận của riêng họ chỉ trong 26 phút, sử dụng chưa đến 50 đô la tín dụng tính toán, họ cho biết. Công ty khởi nghiệp Hugging Face đã tái tạo tính năng mới nhất và hấp dẫn nhất của OpenAI, Nghiên cứu sâu, dưới dạng thử thách mã hóa trong 24 giờ.
 
DeepSeek không phát minh ra quá trình chưng cất, nhưng nó đã đánh thức thế giới AI về tiềm năng phá vỡ của nó. Nó cũng mở ra sự trỗi dậy của một trật tự nguồn mở mới — một niềm tin rằng tính minh bạch và khả năng tiếp cận thúc đẩy sự đổi mới nhanh hơn so với nghiên cứu đóng cửa.
 
"Nguồn mở luôn chiến thắng trong ngành công nghệ", Arvind Jain, CEO của Glean, công ty tạo ra công cụ tìm kiếm hỗ trợ AI cho các doanh nghiệp, cho biết. "Bạn không thể đánh bại được động lực mà một dự án nguồn mở thành công thực sự có thể tạo ra".
 
Bản thân OpenAI đã quay lại chiến lược nguồn đóng của mình sau thành tích của DeepSeek.
 
"Cá nhân tôi nghĩ rằng chúng ta đã đi sai hướng trong lịch sử và cần tìm ra một chiến lược nguồn mở khác", CEO của OpenAI Sam Altman đã viết trong một bài đăng trên Reddit vào ngày 31 tháng 1.
 
Sự kết hợp giữa sức hút mới tìm thấy của quá trình chưng cất và sự gia tăng phổ biến của nguồn mở đang hoàn toàn thay đổi động lực cạnh tranh trong AI.
Bắc Kinh áp dụng DeepSeek để dẫn đầu việc áp dụng AI khi tìm kiếm động lực tăng trưởng mới Vietnet24h - DeepSeek cũng đã làm rung chuyển hệ sinh thái AI của Trung Quốc, với các tổ chức nhà nước cũng như các công ty công nghệ lớn, bao gồm cả các đối thủ cạnh tranh, tận dụng kiến ​​trúc nguồn mở của nó.
Mô hình AI của Deepseek, là một tác phẩm tốt nhất của Trung Quốc nhưng hơi quá "cường điệu", Giám đốc điều hành của Google Deepmind nói Vietnet24h - Mô hình AI của Deepseek, có lẽ là tác phẩm hay nhất của Trung Quốc, Demis Hassabis, CEO của Google Deepmind cho biết vào Chủ nhật.
Tin khác cùng chuyên mục
Tin đọc nhiều
Trò chơi Xbox sẽ sớm có trên TV LG thông qua dịch vụ chơi game đám mây Vietnet24h - Theo LG Electronics, gần đây họ đã ký kết một quan hệ đối tác để cung cấp hàng trăm tựa game Xbox cho webOS của LG.
Tấn công mạng làm gián đoạn hoạt động của Japan Airlines Vietnet24h - Vừa qua, Japan Airlines đã trở thành nạn nhân của một cuộc tấn công mạng nghiêm trọng, gây tác động lớn đến các hệ thống nội bộ của hãng. Các chuyên gia cho rằng vụ việc có thể dẫn đến sự cố chậm trễ và hủy chuyến bay trong những ngày tới.
Tình trạng tấn công mạng tại Việt Nam: Mối đe dọa ngày càng nghiêm trọng với hơn 659.000 vụ Vietnet24h - Năm 2024, các cơ quan, doanh nghiệp Việt Nam phải đối mặt với hơn 659.000 vụ tấn công mạng, trong đó hình thức tấn công APT (Advanced Persistent Threat) trở thành mối đe dọa lớn nhất. Báo cáo của Hiệp hội An ninh mạng quốc gia chỉ ra rằng không chỉ số lượng mà cả quy mô các vụ tấn công đang gia tăng, đồng thời nhân lực an ninh mạng tại Việt Nam vẫn đang thiếu hụt trầm trọng, tạo ra nhiều lỗ hổng dễ dàng bị tội phạm mạng khai thác.
Realme 13+ 5G: đột phá công nghệ dành cho game thủ thể thao điện tử Vietnet24h - Realme 13+ 5G là mẫu smartphone mới nhất vừa ra mắt, được trang bị công nghệ tiên tiến với chipset Dimensity 7300 và RAM mở rộng đến 26GB. Sản phẩm hứa hẹn sẽ mang đến trải nghiệm chơi game tuyệt vời với chế độ GT tối ưu hóa hiệu suất, cùng với sạc siêu nhanh 80W giúp người dùng không lo về thời gian chờ đợi.
Chip Core Ultra 200S của Intel: Cuộc cách mạng trong xử lý máy tính để bàn Vietnet24h - Intel vừa ra mắt chip Core Ultra 200S, sản phẩm mới nhất trong dòng máy tính để bàn, với những cải tiến đáng kể về hiệu suất và công nghệ AI. Sự ra mắt này không chỉ mang lại những trải nghiệm tốt hơn cho người dùng mà còn mở ra kỷ nguyên mới trong ngành công nghiệp công nghệ.
Thị trường máy tính cá nhân giảm 1,3% trong quý III năm nay Vietnet24h - Lượng máy tính cá nhân xuất xưởng trong quý 3 đạt 62,9 triệu chiếc, giảm 1,3% so với cùng kỳ năm trước so với quý 3 năm 2023 sau ba quý liên tiếp tăng trưởng theo năm.
Black Myth: Wukong ra mắt bản mở rộng đầu tiên vào đầu năm 2025 Vietnet24h - Black Myth: Wukong không chỉ gặt hái thành công khủng ngay từ khi ra mắt mà còn chuẩn bị phát hành bản mở rộng đầu tiên vào đầu năm 2025. Các fan của Tôn Ngộ Không sẽ được trải nghiệm những trận đánh đỉnh cao cùng cốt truyện lôi cuốn.
Sony ra mắt PlayStation 5 Pro nâng cấp để thúc đẩy hoạt động kinh doanh máy chơi game Vietnet24h - Hôm qua, thứ ba (10/9), Sony đã tiết lộ phiên bản nâng cấp của máy chơi game PlayStation 5, có tên là PlayStation 5 Pro.
Black Myth: Wukong bứt phá doanh số, trở thành hiện tượng game mới Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai dựa trên tiểu thuyết Tây Du Ký, đang khiến làng game toàn cầu xôn xao với thành tích ấn tượng: bán được 10 triệu bản chỉ trong hơn ba ngày kể từ ngày phát hành. Thành tích này không chỉ xác lập một kỷ lục mới mà còn cho thấy sự bùng nổ của trò chơi trong giới game thủ.
Anh tiên phong phát triển mạng lượng tử, đặt nền móng cho tương lai an ninh mạng không thể bị xâm phạm Vietnet24h - Chính phủ Anh đang đặt nền móng cho một tương lai an ninh mạng vượt trội bằng cách thúc đẩy phát triển cơ sở hạ tầng mạng dựa trên vật lý lượng tử, với hy vọng tạo ra một hệ thống không thể bị hack. Đây là bước tiến quan trọng nhằm ngăn chặn tình trạng tin tặc đánh cắp thông tin, một thách thức đang ngày càng gia tăng trong kỷ nguyên số.
Doanh thu năm 2024 của Huawei tăng vọt lên mức gần kỷ lục Vietnet24h - Hôm thứ Hai, Huawei báo cáo doanh thu năm 2024 tăng mạnh nhờ các mảng kinh doanh cốt lõi là viễn thông và tiêu dùng tăng tốc.
Theo SK hynix: Chip HBM năm 2026 sẽ bán hết trong nửa đầu năm Vietnet24h - SK hynix có kế hoạch hoàn tất thỏa thuận cung cấp chip nhớ băng thông cao quan trọng đối với trí tuệ nhân tạo vào năm sau trong nửa đầu năm nay, theo CEO của nhà sản xuất chip Kwak Noh-jung.
Micron Technology tăng giá DRAM; Liệu Samsung và SK có làm theo không? Vietnet24h - icron Technology, nhà sản xuất DRAM lớn thứ ba toàn cầu, đã tăng giá bộ nhớ.
Dự báo tăng trưởng 2% năm 2025 cho thiết bị sản xuất front-end Vietnet24h - Chi tiêu cho thiết bị chế tạo năm 2025 cho các cơ sở sản xuất tiền tuyến dự kiến ​​sẽ tăng 2% so với cùng kỳ năm trước lên 110 tỷ đô la, đánh dấu năm tăng trưởng thứ sáu liên tiếp kể từ năm 2020, SEMI cho biết hôm nay trong báo cáo của mình.
Samsung, SK hynix sẽ đối đầu trong cuộc đua chip HBM4 sắp tới Vietnet24h - SK hynix cạnh tranh để giữ vị trí dẫn đầu trong khi Samsung tái khẳng định cam kết bù đắp những sai lầm để vượt qua đối thủ nhỏ hơn
Huawei gây bất ngờ khi Annabel Yao xuất hiện trong chiến dịch quảng bá Pura X Vietnet24h - Không chỉ thu hút sự chú ý với thiết kế gập độc đáo, Huawei Pura X còn gây sốt khi có sự tham gia của Annabel Yao – con gái út của Nhậm Chính Phi – trong vai trò đại diện thương hiệu.
Xuất khẩu công nghệ thông tin của Hàn Quốc đạt giá trị lớn thứ hai từ trước đến nay trong tháng 2 Vietnet24h - Xuất khẩu sản phẩm công nghệ thông tin và truyền thông (ICT) của Hàn Quốc đạt giá trị lớn thứ hai trong tháng 2 năm ngoái mặc dù doanh số bán chip giảm, dữ liệu của chính phủ cho thấy hôm Chủ Nhật
Indonesia cấp phép cho năm mẫu iPhone 16 của Apple Vietnet24h - Việc cấp giấy phép diễn ra một tuần sau khi Indonesia cấp giấy chứng nhận nội dung địa phương cho 20 sản phẩm của Apple bao gồm cả iPhone 16.
Thị trường vật liệu đóng gói mô-đun điện có tốc độ tăng trưởng CAGR 11% trong giai đoạn 2024-2030 Vietnet24h - Yole Group cho biết thị trường vật liệu đóng gói mô-đun điện sẽ đạt gần 6,1 tỷ đô la vào năm 2030 với tốc độ tăng trưởng kép hàng năm (CAGR) gần 11% từ năm 2024 đến năm 2030.
Samsung thắng lệnh cấm đối với TCL tại Đức Vietnet24h - Samsung Electronics đã giành được lệnh tạm thời đối với nhà sản xuất thiết bị gia dụng Trung Quốc TCL tại Đức, cấm TCL sử dụng tên thương hiệu TV đang bị tranh chấp tại Liên minh Châu Âu.
Samsung Display đặt mục tiêu tăng trưởng 50% trong lô hàng tấm nền màn hình QD-OLED Vietnet24h - Samsung Display đặt mục tiêu tăng trưởng 50 phần trăm trong lô hàng tấm nền màn hình chấm lượng tử (QD)-OLED trong năm nay,
TV OLED của LG càn quét top 10 bảng xếp hạng của US Consumer Reports Vietnet24h - TV OLED của LG Electronics gần đây đã càn quét tất cả 10 vị trí hàng đầu trong bảng xếp hạng của tổ chức người tiêu dùng Mỹ Consumer Reports.
Xiaomi đưa điều hòa, tủ lạnh về Việt Nam: Tham vọng lớn hơn cả smartphone? Vietnet24h - Không chỉ dừng lại ở điện thoại và thiết bị thông minh, Xiaomi tiếp tục tham vọng lấn sân sang thị trường gia dụng. Điều hòa, tủ lạnh và máy giặt sẽ là những sản phẩm chủ lực tiếp theo của hãng tại Việt Nam.
LG Electronics sắp trở thành nhà cung cấp TV cao cấp số 1 thế giới Vietnet24h - LG Electronics đang hướng đến mục tiêu trở thành công ty hàng đầu về doanh số và doanh thu trong phân khúc TV cao cấp và công ty đang tiến gần hơn đến mục tiêu này.
LG phản ứng trước đề xuất áp thuế TV của Trump Vietnet24h - LG Electronics đang vật lộn với mức thuế dự kiến ​​từ chính quyền của Tổng thống Hoa Kỳ Donald Trump đối với tivi nhập khẩu.
Nhà Trắng nhắc đến Samsung, LG như một phần trong nỗ lực thúc đẩy sản xuất của Hoa Kỳ Vietnet24h - Nhà Trắng đã đề cập đến hai gã khổng lồ điện tử Hàn Quốc vào thứ Hai (10/3) khi nêu rõ tiến triển trong nỗ lực của Tổng thống Hoa Kỳ Donald Trump nhằm đưa hoạt động sản xuất trở lại Hoa Kỳ thông qua thuế quan.
LG Electronics ra mắt dòng sản phẩm TV OLED và QNED 2025 Vietnet24h - LG Electronics cho biết OLED evo 2025 tích hợp công nghệ tăng cường độ sáng, tối ưu hóa thuật toán hiển thị và cấu trúc hợp chất hữu cơ để cung cấp hình ảnh sáng hơn gấp ba lần so với TV OLED thông thường.
Samsung Electronics kỷ niệm 11 năm thống trị thị trường Soundbar toàn cầu Vietnet24h - Samsung chiếm 20,1% thị phần về giá trị; duy trì vị thế vững chắc với 18,4% doanh số bán hàng.
Các nhà sản xuất TV Trung Quốc bị kiện tại Hoa Kỳ vì 'quảng cáo sai sự thật' trên TV QD Vietnet24h - Hai gã khổng lồ truyền hình Trung Quốc là TCL và Hisense đã phải đối mặt với các vụ kiện tập thể tại Hoa Kỳ vì cáo buộc "quảng cáo sai sự thật" về TV LED chấm lượng tử (QLED) của họ sau một cuộc tranh cãi ở Hàn Quốc rằng TV của họ thiếu các yếu tố chính cần thiết cho công nghệ chấm lượng tử (QD).
Aux gia nhập thị trường máy lạnh Việt Nam với những cải tiến mới Vietnet24h - Aux Air Conditioning đã chính thức gia nhập thị trường Việt Nam, đánh dấu sự ra mắt bằng hai hội nghị đại lý lớn tại Thành phố Hồ Chí Minh và Hà Nội.