Tầm nhìn
Cách DeepSeek sử dụng phương pháp chưng cất để đào tạo mô hình trí tuệ nhân tạo
Minh Ngọc - Chủ Nhật, 23/02/2025 8:34 SA
Vietnet24h - Phòng thí nghiệm trí tuệ nhân tạo Trung Quốc DeepSeek đã khuấy động thị trường vào tháng 1, gây ra một đợt bán tháo công nghệ và chất bán dẫn lớn sau khi công bố các mô hình AI mà họ cho là rẻ hơn và hiệu quả hơn so với các mô hình của Mỹ.
Nhưng nỗi sợ hãi và đột phá tiềm ẩn đã thúc đẩy đợt bán tháo này còn sâu sắc hơn nhiều so với một công ty khởi nghiệp AI. Thung lũng Silicon hiện đang tính đến một kỹ thuật trong phát triển AI được gọi là chưng cất, một kỹ thuật có thể đảo ngược bảng xếp hạng AI.
 
Chưng cất là một quá trình trích xuất kiến ​​thức từ một mô hình AI lớn hơn để tạo ra một mô hình nhỏ hơn. Nó có thể cho phép một nhóm nhỏ hầu như không có nguồn lực nào tạo ra một mô hình tiên tiến.
 
Một công ty công nghệ hàng đầu đầu tư nhiều năm và hàng triệu đô la để phát triển một mô hình hàng đầu từ đầu. Sau đó, một nhóm nhỏ hơn như DeepSeek lao vào và đào tạo mô hình chuyên biệt hơn của riêng mình bằng cách đặt câu hỏi cho mô hình "giáo viên" lớn hơn. Quá trình này tạo ra một mô hình mới có khả năng gần như mô hình của công ty lớn nhưng đào tạo nhanh hơn và hiệu quả hơn.
 
“Kỹ thuật chưng cất này cực kỳ mạnh mẽ và cực kỳ rẻ, và nó dành cho bất kỳ ai”, Ali Ghodsi, CEO của Databricks, cho biết, đồng thời nói thêm rằng ông hy vọng sẽ thấy sự đổi mới khi nói đến cách xây dựng các mô hình ngôn ngữ lớn hay LLM. “Chúng ta sẽ thấy rất nhiều sự cạnh tranh cho LLM. Đó là những gì sẽ xảy ra trong kỷ nguyên mới mà chúng ta đang bước vào”.
 
Hiện nay, chưng cất đang cho phép các công ty khởi nghiệp và phòng nghiên cứu ít vốn cạnh tranh ở vị trí tiên tiến nhanh hơn bao giờ hết.
 
Các nhà nghiên cứu tại Berkeley cho biết, sử dụng kỹ thuật này, họ đã tái tạo mô hình lý luận của OpenAI với giá 450 đô la trong 19 giờ vào tháng trước. Ngay sau đó, các nhà nghiên cứu tại Stanford và Đại học Washington đã tạo ra mô hình lý luận của riêng họ chỉ trong 26 phút, sử dụng chưa đến 50 đô la tín dụng tính toán, họ cho biết. Công ty khởi nghiệp Hugging Face đã tái tạo tính năng mới nhất và hấp dẫn nhất của OpenAI, Nghiên cứu sâu, dưới dạng thử thách mã hóa trong 24 giờ.
 
DeepSeek không phát minh ra quá trình chưng cất, nhưng nó đã đánh thức thế giới AI về tiềm năng phá vỡ của nó. Nó cũng mở ra sự trỗi dậy của một trật tự nguồn mở mới — một niềm tin rằng tính minh bạch và khả năng tiếp cận thúc đẩy sự đổi mới nhanh hơn so với nghiên cứu đóng cửa.
 
"Nguồn mở luôn chiến thắng trong ngành công nghệ", Arvind Jain, CEO của Glean, công ty tạo ra công cụ tìm kiếm hỗ trợ AI cho các doanh nghiệp, cho biết. "Bạn không thể đánh bại được động lực mà một dự án nguồn mở thành công thực sự có thể tạo ra".
 
Bản thân OpenAI đã quay lại chiến lược nguồn đóng của mình sau thành tích của DeepSeek.
 
"Cá nhân tôi nghĩ rằng chúng ta đã đi sai hướng trong lịch sử và cần tìm ra một chiến lược nguồn mở khác", CEO của OpenAI Sam Altman đã viết trong một bài đăng trên Reddit vào ngày 31 tháng 1.
 
Sự kết hợp giữa sức hút mới tìm thấy của quá trình chưng cất và sự gia tăng phổ biến của nguồn mở đang hoàn toàn thay đổi động lực cạnh tranh trong AI.
Bắc Kinh áp dụng DeepSeek để dẫn đầu việc áp dụng AI khi tìm kiếm động lực tăng trưởng mới Vietnet24h - DeepSeek cũng đã làm rung chuyển hệ sinh thái AI của Trung Quốc, với các tổ chức nhà nước cũng như các công ty công nghệ lớn, bao gồm cả các đối thủ cạnh tranh, tận dụng kiến ​​trúc nguồn mở của nó.
Mô hình AI của Deepseek, là một tác phẩm tốt nhất của Trung Quốc nhưng hơi quá "cường điệu", Giám đốc điều hành của Google Deepmind nói Vietnet24h - Mô hình AI của Deepseek, có lẽ là tác phẩm hay nhất của Trung Quốc, Demis Hassabis, CEO của Google Deepmind cho biết vào Chủ nhật.
Tin khác cùng chuyên mục
Tin đọc nhiều
Hàng tỷ đô la bị đe dọa: Kế hoạch bãi bỏ Đạo luật CHIPS của Trump khiến các nhà sản xuất chip Hàn Quốc lo lắng Vietnet24h - Bất ổn chính trị kéo dài khiến các công ty Hàn Quốc không còn quyền đàm phán với Hoa Kỳ.
Nỗ lực bãi bỏ Đạo luật CHIP của Trump gây ra cuộc tranh luận về Chiến lược bán dẫn của Hoa Kỳ Vietnet24h - Tổng thống Hoa Kỳ Donald Trump đã tuyên bố ý định bãi bỏ Đạo luật CHIPs trong phiên họp chung của Quốc hội Hoa Kỳ vào ngày 4 tháng 3 (giờ địa phương).
Cổ phiếu công nghệ giảm 7% kể từ khi Trump nhậm chức vì chiến tranh thương mại làm gia tăng sự bất ổn Vietnet24h - Cổ phiếu công nghệ đã giảm hơn 7% kể từ khi Tổng thống Donald Trump nhậm chức.
Nhật Bản ưu tiên phần mềm nội địa cho an ninh mạng Vietnet24h - Tính đến năm 2021, các công ty trong nước chiếm khoảng 40% các sản phẩm đối phó an ninh mạng của Nhật Bản. Nhưng đối với các sản phẩm mới nhất, tỷ lệ này thường dưới 10%.
Hàn Quốc: Bộ trưởng Công nghiệp đưa ra giải pháp thay thế 'mang tính xây dựng', 'cùng có lợi' trong bối cảnh lo ngại về thuế quan của Trump Vietnet24h - Bộ trưởng Công nghiệp Hàn Quốc bày tỏ sự tin tưởng vào thứ Tư (26/2) rằng, Seoul và Washington sẽ có thể tìm ra một giải pháp thay thế "mang tính xây dựng" và "cùng có lợi".
Bắc Kinh áp dụng DeepSeek để dẫn đầu việc áp dụng AI khi tìm kiếm động lực tăng trưởng mới Vietnet24h - DeepSeek cũng đã làm rung chuyển hệ sinh thái AI của Trung Quốc, với các tổ chức nhà nước cũng như các công ty công nghệ lớn, bao gồm cả các đối thủ cạnh tranh, tận dụng kiến ​​trúc nguồn mở của nó.
Đài Loan cam kết đàm phán với Hoa Kỳ, đầu tư nhiều hơn để xoa dịu Trump Vietnet24h - Tổng thống Đài Loan Lai Ching-te đã cam kết vào thứ Sáu (14/2) sẽ đàm phán với Hoa Kỳ về những lo ngại của Tổng thống Donald Trump đối với ngành công nghiệp chip và đầu tư nhiều hơn vào và mua nhiều hơn từ quốc gia này, đồng thời tăng chi tiêu quốc phòng.
Hàn Quốc: Khủng hoảng thiếu hụt nhân tài chip được củng cố bởi nỗi ám ảnh về trường y Vietnet24h - Với các trường y khoa đang hút cạn những tài năng hàng đầu như một 'hố đen', các chuyên gia về chip kêu gọi một chính sách phát triển tài năng có hệ thống
Tổng thống Pháp Macron sẽ đầu tư 109 tỷ euro vào AI cho khu vực tư nhân của Pháp Vietnet24h - Pháp sẽ công bố các khoản đầu tư của khu vực tư nhân với tổng trị giá khoảng 109 tỷ euro (112,5 tỷ đô la) trong lĩnh vực trí tuệ nhân tạo của mình trong Hội nghị thượng đỉnh Paris AI sẽ khai mạc vào thứ Hai (10/2), Tổng thống Emmanuel Macron cho biết.
Hàn Quốc: Bộ Môi trường tham gia vào động thái chặn quyền truy cập vào DeepSeek Vietnet24h - Hôm nay, thứ Năm, 6/2, Bộ Môi trường Hàn Quốc đã tham gia cùng nhiều bộ khác của chính phủ Hàn Quốc trong việc chặn quyền truy cập vào dịch vụ trí tuệ nhân tạo (AI) của Trung Quốc DeepSeek giữa những lo ngại về việc thu thập dữ liệu người dùng.
Hyundai Motor Group mở nhà máy sản xuất xe điện được chào hàng rầm rộ tại Hoa Kỳ Vietnet24h - Hyundai Motor Group đã tổ chức lễ khai trương hoành tráng cho Hyundai Motor Group Metaplant America (HMGMA) tại Georgia vào thứ Tư (giờ địa phương), với mục tiêu đưa nơi này trở thành trụ cột sản xuất chính cho xe điện (EV) và xe hybrid của hãng sản xuất ô tô này.
Các gã khổng lồ công nghệ Hoa Kỳ đang đặt cược lớn vào robot hình người — nhưng Trung Quốc đã đi trước Vietnet24h - Sự phấn khích của các nhà đầu tư xung quanh robot ngày càng tăng khi có nhiều lời nhắc đến từ các nhà lãnh đạo công nghệ như Jensen Huang của Nvidia và các kế hoạch đầy tham vọng của Elon Musk của Tesla.
Giám đốc điều hành lượng tử của Google cho biết công nghệ 'còn 5 năm nữa mới có thể đột phá thực sự' Vietnet24h - Một trong những giám đốc điều hành cấp cao của Google chuyên nghiên cứu máy tính lượng tử cho biết ông tin rằng công nghệ này chỉ còn cách năm năm nữa là có thể chạy các ứng dụng thực tế mà máy tính hiện đại không thể tính toán được.
2 bằng sáng chế OLED của Solus Advanced bị công ty con của Samsung vô hiệu hóa Vietnet24h - Hai bằng sáng chế mới nhất mà Solus Advanced Materials nộp đã bị đối thủ Novaled, một công ty con của Samsung Group, vô hiệu hóa.
Đồng hồ gập của Apple: Bước đột phá đáng mong đợi Vietnet24h - Một bằng sáng chế mới của Apple hé lộ khả năng hãng đang phát triển Apple Watch có màn hình gập, giúp thiết bị linh hoạt hơn và hoạt động độc lập hơn. Nếu thành hiện thực, đây có thể là một trong những sản phẩm sáng tạo nhất của Apple.
CEO Huang Jensen của Nvidia cho biết chip nhanh hơn là cách tốt nhất để giảm chi phí AI Vietnet24h - Phát biểu tại hội nghị GTC của Nvidia vào thứ Ba, Huang cho biết những thắc mắc của khách hàng về chi phí và lợi tức đầu tư vào bộ xử lý đồ họa (GPU) của công ty sẽ không còn nữa khi có những con chip nhanh hơn.
Samsung hướng đến AI, các thỏa thuận M&A để thúc đẩy tăng trưởng cổ phiếu Vietnet24h - CEO gợi ý về thỏa thuận M&A 'có ý nghĩa' trong năm nay để thúc đẩy hoạt động kinh doanh chip AI.
Hơn 20 công ty công nghệ Đài Loan tham gia Hội nghị Trí tuệ nhân tạo toàn cầu GTC của Nvidia 2025 Vietnet24h - Một số công ty Đài Loan sẽ tham gia hội nghị trí tuệ nhân tạo toàn cầu tại California vào tuần này, do gã khổng lồ công nghệ Mỹ Nvidia Corp. tổ chức, đây là công ty hàng đầu trong thiết kế bộ xử lý đồ họa.
Những khó khăn của nhà máy đúc Samsung trầm trọng hơn trong bối cảnh đàm phán liên doanh TSMC-Intel Vietnet24h - Hoạt động kinh doanh xưởng đúc của Samsung có thể gặp "nguy cơ nghiêm trọng" nếu TSMC và các nhà thiết kế chip lớn của Hoa Kỳ thành lập một liên doanh để vận hành các cơ sở sản xuất chất bán dẫn của Intel.
Hội nghị quốc tế về "Trí tuệ nhân tạo và Bán dẫn - AISC 2025": Cơ hội tiếp cận những bước tiến mới nhất về AI, bán dẫn tại Việt Nam Vietnet24h - Ngày 12/3, Hội nghị quốc tế về trí tuệ nhân tạo và bán dẫn (AISC) 2025 được tổ chức bởi Trung tâm Đổi mới sáng tạo quốc gia (NIC) Aitomactic, Hoa Kỳ và chính thức khai mạc tại NIC Hòa Lạc.
Công nghệ đột phá: Trang phục tạo ra điện từ năng lượng Mặt Trời Vietnet24h - Công ty Toyoda Gosei của Nhật Bản đang thử nghiệm áo vest tích hợp pin năng lượng Mặt Trời perovskite siêu mỏng. Sản phẩm không chỉ cấp điện cho thiết bị nhỏ mà còn mở ra tiềm năng lớn trong ngành thời trang thông minh.
VinFast và BNI ký kết quan hệ đối tác chiến lược toàn diện để thúc đẩy quá trình chuyển đổi xanh và tăng trưởng bền vững Vietnet24h - VinFast và PT Bank Negara Indonesia (Persero) Tbk (BNI) đã ký Biên bản ghi nhớ (MOU) trong Đối thoại doanh nghiệp cấp cao Việt Nam-Indonesia với chủ đề "Việt Nam-Indonesia: Quan hệ đối tác vì sự tiến bộ và thịnh vượng".
Chủ tịch Tập đoàn SK gặp gỡ Tổng bí thư Tô Lâm thảo luận về hợp tác năng lượng Vietnet24h - Ông Chey đã có cuộc hội đàm với quan chức cấp cao của Việt Nam tại Hà Nội vào thứ Sáu (15/2), cùng với các giám đốc của SK Innovation E&S, SK Energy, SKC và SK Earth On.
Hội nghị năng lượng điện khai mạc tại Seoul giới thiệu nhiều công nghệ tiên tiến Vietnet24h - Một hội nghị về năng lượng điện đã khai mạc tại Seoul vào hôm nay, thứ Tư (12/2), để giới thiệu các công nghệ điện tiên tiến của các công ty trong và ngoài Hàn Quốc.
Tổng thống Trump ra lệnh cho Hoa Kỳ rút khỏi thỏa thuận khí hậu Paris, sẽ tuyên bố 'tình trạng khẩn cấp về năng lượng quốc gia' Vietnet24h - Tổng thống Donald Trump đã ra lệnh cho Hoa Kỳ rút khỏi thỏa thuận khí hậu Paris.
Kế hoạch tái chế nhôm từ ô tô và lưu giữ toàn bộ tại Hoa Kỳ của một công ty khởi nghiệp Vietnet24h - Sortera cho biết họ là công ty duy nhất của Hoa Kỳ có công nghệ phân loại để tái sử dụng chất lượng cao nhất — tức là lấy nhôm từ nắp capo ô tô và đưa trở lại nắp capo ô tô.
Samsung Display đạt chứng nhận không rác thải hàng đầu Vietnet24h - Chứng nhận này được xác minh bởi UL Solutions, một tổ chức khoa học an toàn ứng dụng toàn cầu. Samsung Display đã được xếp hạng Bạch kim cho bốn cơ sở trong nước và bốn cơ sở khác ở nước ngoài.
Sự phát triển của AI và những thách thức đối với hệ thống điện Mỹ Vietnet24h - Các trung tâm dữ liệu AI đang ngày càng trở thành nguồn tiêu thụ năng lượng lớn, gây ra những áp lực đáng lo ngại đối với hệ thống lưới điện tại Mỹ. Với mục tiêu duy trì sự ổn định và bền vững, các tập đoàn công nghệ lớn đang tìm kiếm giải pháp năng lượng sạch như hạt nhân để đáp ứng nhu cầu này, nhưng điều này có đủ để giải quyết vấn đề lâu dài?
Đầu tư mạnh mẽ vào năng lượng hạt nhân: kỳ vọng từ các cường quốc Vietnet24h - Khi các quốc gia như Nga, Pháp, và Mỹ đẩy mạnh phát triển năng lượng hạt nhân, thế giới đang chứng kiến một cuộc chuyển mình mạnh mẽ trong ngành năng lượng. Các thỏa thuận lớn và những bước tiến công nghệ đang mở đường cho một tương lai năng lượng sạch và bền vững hơn.
LG Display, Hanwha Solutions hợp tác phát triển bao bì thân thiện với môi trường bằng nhựa tái chế Vietnet24h - LG Display cho biết hôm thứ Hai (23/12) rằng, họ đã phát triển bao bì thân thiện với môi trường cho các linh kiện điện tử bằng nhựa tái chế sau khi tiêu dùng hợp tác với Hanwha Solutions.