Hướng dẫn công nghệ
Cách DeepSeek sử dụng phương pháp chưng cất để đào tạo mô hình trí tuệ nhân tạo
Minh Ngọc - Chủ Nhật, 23/02/2025 8:34 SA
Vietnet24h - Phòng thí nghiệm trí tuệ nhân tạo Trung Quốc DeepSeek đã khuấy động thị trường vào tháng 1, gây ra một đợt bán tháo công nghệ và chất bán dẫn lớn sau khi công bố các mô hình AI mà họ cho là rẻ hơn và hiệu quả hơn so với các mô hình của Mỹ.
Nhưng nỗi sợ hãi và đột phá tiềm ẩn đã thúc đẩy đợt bán tháo này còn sâu sắc hơn nhiều so với một công ty khởi nghiệp AI. Thung lũng Silicon hiện đang tính đến một kỹ thuật trong phát triển AI được gọi là chưng cất, một kỹ thuật có thể đảo ngược bảng xếp hạng AI.
 
Chưng cất là một quá trình trích xuất kiến ​​thức từ một mô hình AI lớn hơn để tạo ra một mô hình nhỏ hơn. Nó có thể cho phép một nhóm nhỏ hầu như không có nguồn lực nào tạo ra một mô hình tiên tiến.
 
Một công ty công nghệ hàng đầu đầu tư nhiều năm và hàng triệu đô la để phát triển một mô hình hàng đầu từ đầu. Sau đó, một nhóm nhỏ hơn như DeepSeek lao vào và đào tạo mô hình chuyên biệt hơn của riêng mình bằng cách đặt câu hỏi cho mô hình "giáo viên" lớn hơn. Quá trình này tạo ra một mô hình mới có khả năng gần như mô hình của công ty lớn nhưng đào tạo nhanh hơn và hiệu quả hơn.
 
“Kỹ thuật chưng cất này cực kỳ mạnh mẽ và cực kỳ rẻ, và nó dành cho bất kỳ ai”, Ali Ghodsi, CEO của Databricks, cho biết, đồng thời nói thêm rằng ông hy vọng sẽ thấy sự đổi mới khi nói đến cách xây dựng các mô hình ngôn ngữ lớn hay LLM. “Chúng ta sẽ thấy rất nhiều sự cạnh tranh cho LLM. Đó là những gì sẽ xảy ra trong kỷ nguyên mới mà chúng ta đang bước vào”.
 
Hiện nay, chưng cất đang cho phép các công ty khởi nghiệp và phòng nghiên cứu ít vốn cạnh tranh ở vị trí tiên tiến nhanh hơn bao giờ hết.
 
Các nhà nghiên cứu tại Berkeley cho biết, sử dụng kỹ thuật này, họ đã tái tạo mô hình lý luận của OpenAI với giá 450 đô la trong 19 giờ vào tháng trước. Ngay sau đó, các nhà nghiên cứu tại Stanford và Đại học Washington đã tạo ra mô hình lý luận của riêng họ chỉ trong 26 phút, sử dụng chưa đến 50 đô la tín dụng tính toán, họ cho biết. Công ty khởi nghiệp Hugging Face đã tái tạo tính năng mới nhất và hấp dẫn nhất của OpenAI, Nghiên cứu sâu, dưới dạng thử thách mã hóa trong 24 giờ.
 
DeepSeek không phát minh ra quá trình chưng cất, nhưng nó đã đánh thức thế giới AI về tiềm năng phá vỡ của nó. Nó cũng mở ra sự trỗi dậy của một trật tự nguồn mở mới — một niềm tin rằng tính minh bạch và khả năng tiếp cận thúc đẩy sự đổi mới nhanh hơn so với nghiên cứu đóng cửa.
 
"Nguồn mở luôn chiến thắng trong ngành công nghệ", Arvind Jain, CEO của Glean, công ty tạo ra công cụ tìm kiếm hỗ trợ AI cho các doanh nghiệp, cho biết. "Bạn không thể đánh bại được động lực mà một dự án nguồn mở thành công thực sự có thể tạo ra".
 
Bản thân OpenAI đã quay lại chiến lược nguồn đóng của mình sau thành tích của DeepSeek.
 
"Cá nhân tôi nghĩ rằng chúng ta đã đi sai hướng trong lịch sử và cần tìm ra một chiến lược nguồn mở khác", CEO của OpenAI Sam Altman đã viết trong một bài đăng trên Reddit vào ngày 31 tháng 1.
 
Sự kết hợp giữa sức hút mới tìm thấy của quá trình chưng cất và sự gia tăng phổ biến của nguồn mở đang hoàn toàn thay đổi động lực cạnh tranh trong AI.
Bắc Kinh áp dụng DeepSeek để dẫn đầu việc áp dụng AI khi tìm kiếm động lực tăng trưởng mới Vietnet24h - DeepSeek cũng đã làm rung chuyển hệ sinh thái AI của Trung Quốc, với các tổ chức nhà nước cũng như các công ty công nghệ lớn, bao gồm cả các đối thủ cạnh tranh, tận dụng kiến ​​trúc nguồn mở của nó.
Mô hình AI của Deepseek, là một tác phẩm tốt nhất của Trung Quốc nhưng hơi quá "cường điệu", Giám đốc điều hành của Google Deepmind nói Vietnet24h - Mô hình AI của Deepseek, có lẽ là tác phẩm hay nhất của Trung Quốc, Demis Hassabis, CEO của Google Deepmind cho biết vào Chủ nhật.
Tin khác cùng chuyên mục
Tin đọc nhiều
Google Maps cho phép xem lại đường phố từ quá khứ, bạn đã thử chưa? Vietnet24h - Chỉ với vài cú nhấn trên ứng dụng hoặc máy tính, bạn có thể quay lại thời điểm năm 2010 để xem phố xá lúc đó như thế nào. Đây là tính năng Street View mở rộng mà nhiều người dùng vẫn chưa khám phá hết.
Google Search tiết lộ những tính năng sáng tạo có thể thay đổi trải nghiệm trực tuyến của bạn Vietnet24h - Các công cụ tìm kiếm vẫn là đồng minh đáng tin cậy của chúng ta trong hành trình tìm kiếm thông tin, với 16,4 tỷ truy vấn mỗi ngày chỉ tính riêng trên Google.
Google Maps nên lo lắng: Apple Maps giờ thông minh hơn và... nhớ cả bạn thích đi đâu! Vietnet24h - Apple vừa tung bản cập nhật iOS 26 khiến cộng đồng công nghệ xôn xao. Apple Maps không chỉ dẫn đường mà còn ghi nhớ thói quen di chuyển, gợi ý theo sở thích cá nhân và bảo mật tuyệt đối. Đây chính là điều mà Google Maps – với mọi dữ liệu khổng lồ – vẫn chưa thể làm được.
Apple và cuộc "đại tu hệ điều hành" tại WWDC 2025: Khi con số không chỉ là ký hiệu Vietnet24h - Tại WWDC 2025, Apple không đơn thuần giới thiệu các phiên bản phần mềm kế tiếp mà đang vẽ lại cả triết lý định danh sản phẩm và trải nghiệm người dùng. Việc chuyển từ iOS 19 sang iOS 26 không phải chỉ là đổi số, mà là tín hiệu của một chiến lược hợp nhất, đồng bộ và hướng tới tương lai của toàn hệ sinh thái Apple.
Sony FE PZ 16-35mm F4 G – Khi sự tinh gọn gặp sức mạnh quang học Vietnet24h - Trong thế giới nhiếp ảnh và quay phim hiện đại, nơi tính linh hoạt và hiệu suất thường phải đánh đổi lẫn nhau, Sony một lần nữa chứng minh họ có thể phá vỡ quy luật ấy bằng việc ra mắt ống kính zoom điện góc rộng FE PZ 16-35mm F4 G – một minh chứng cho hướng đi ngày càng rõ ràng của hãng: tối ưu trải nghiệm sáng tạo nội dung trên hệ máy mirrorless full-frame mà không thỏa hiệp về chất lượng.
Vì sao màn hình kép và AI khiến Yoga Book 9i trở nên khác biệt? Vietnet24h - Không phải là chiếc laptop đầu tiên có màn hình kép, nhưng Yoga Book 9i kết hợp công nghệ OLED, AI và thiết kế xoay gập linh hoạt theo cách mà rất ít sản phẩm trên thị trường có thể làm được. Đâu là điểm khiến nó trở thành công cụ mơ ước cho người làm sáng tạo?
Muốn dùng AI không cần mạng? Google đã có giải pháp mới cho bạn Vietnet24h - Không cần Wi-Fi, không cần 4G, bạn vẫn có thể tạo ảnh, viết code hay tóm tắt văn bản nhờ AI. Với AI Edge Gallery, Google mang trải nghiệm trí tuệ nhân tạo về ngay trong túi áo của bạn – gọn nhẹ, bảo mật và sẵn sàng mọi lúc.
Thiết kế siêu mỏng "đòi hỏi" đánh đổi – iPhone 17 Air và bài toán năng lượng Vietnet24h - Việc Apple chuẩn bị trình làng iPhone 17 Air với thiết kế siêu mỏng chỉ 5,5 mm, theo tiết lộ mới nhất từ tài khoản yeux1122 trên Naver, đang tạo ra nhiều kỳ vọng về mặt thẩm mỹ – nhưng cũng đồng thời đặt ra những dấu hỏi lớn về hiệu suất pin và trải nghiệm người dùng trong thực tế.
MediaTek ra mắt bộ xử lý AI cho Chromebook Plus Vietnet24h - MediaTek Inc., nhà thiết kế IC lớn nhất tại Đài Loan, đã giới thiệu bộ xử lý mới -- Kompanio Ultra -- vào thứ Hai, công ty mô tả đây là cột mốc mới nhất trong Chromebook hiệu suất cao, chạy bằng trí tuệ nhân tạo.
Chuẩn GPMI của Trung Quốc: ‘Một dây cáp cho mọi thiết bị’ Vietnet24h - GPMI được thiết kế để tối giản hóa kết nối số bằng cách gộp cả dữ liệu và điện năng vào một sợi cáp duy nhất. Nếu được phổ biến, đây có thể là bước ngoặt định hình lại hệ sinh thái điện tử trong tương lai.
Cổ phiếu Samsung Electronics tăng khi công ty ký hợp đồng cung cấp chip trị giá 16,5 tỷ đô la Vietnet24h - Samsung không nêu tên bên đối tác nhưng cho biết ngày bắt đầu có hiệu lực của hợp đồng là ngày 26 tháng 7 năm 2024 - ngày nhận được đơn đặt hàng - và ngày kết thúc là ngày 31 tháng 12 năm 2033.
Huawei giới thiệu hệ thống điện toán AI cạnh tranh với sản phẩm hàng đầu của Nvidia Vietnet24h - Hệ thống CloudMatrix 384 đã ra mắt công chúng lần đầu tiên tại Hội nghị Trí tuệ Nhân tạo Thế giới (WAIC), một sự kiện kéo dài ba ngày tại Thượng Hải
iPhone 17 Air: Năm tính năng nhất định phải có mà chúng tôi hy vọng Apple sẽ cung cấp Vietnet24h - Năm nay, Apple đã làm thay đổi mọi thứ bằng cách cắt giảm phiên bản Plus và tung ra một phiên bản mỏng nhẹ, thanh mảnh hơn: tin đồn đang lan truyền rằng thiết bị này có thể có độ dày đáng kinh ngạc 5,4mm.
Nỗ lực của Trung Quốc và Ấn Độ trong tự chủ sản xuất chip tiên tiến Vietnet24h - Kể từ khi gã khổng lồ công nghệ Trung Quốc Huawei bị Mỹ đưa vào danh sách đen, Trung Quốc đã tăng cường nỗ lực thúc đẩy khả năng tự chủ về công nghệ.
Galaxy Z Fold 7 mới giảm độ dày và trọng lượng như thế nào Vietnet24h - Chiếc điện thoại thông minh Galaxy Z Fold 7 mới đã giảm được độ dày và trọng lượng đủ để người dùng cảm nhận được sự khác biệt trong khi vẫn giữ được hiệu năng ngang bằng với Galaxy S25 mạnh mẽ của Samsung.
Samsung sẽ ra mắt phiên bản beta của AI Health Coach tại Hoa Kỳ vào cuối năm nay Vietnet24h - Samsung Electronics sắp ra mắt phiên bản beta của AI Health Coach thông qua ứng dụng Samsung Health tại Mỹ, đánh dấu bước tiến đáng kể trong việc ứng dụng AI vào việc cung cấp hướng dẫn y tế tại nhà.
Khi AI vào phòng mổ: Robot tự mổ 100% cho người thật không cần bác sĩ Vietnet24h - Không còn là viễn tưởng, robot SRT-H đã thực hiện ca phẫu thuật đầu tiên mà không cần sự can thiệp của con người. Được huấn luyện từ video thực tế và lệnh bằng giọng nói, cỗ máy này đang tái định nghĩa vai trò của AI trong y học thế kỷ 21.
Grok 4 dường như muốn tìm hiểu quan điểm của Elon Musk khi trả lời những câu hỏi gây tranh cãi Vietnet24h - Khi chatbot Grok 4 của xAI ra mắt vào thứ Tư, người dùng và các phương tiện truyền thông đã nhanh chóng chỉ ra các ví dụ về việc chatbot này tham khảo quan điểm của chủ sở hữu Elon Musk về các vấn đề gây tranh cãi.
Mối đe dọa thuế quan của Hoa Kỳ làm gia tăng sự bất ổn trong ngành công nghiệp chip Hàn Quốc Vietnet24h - Ngành bán dẫn của Hàn Quốc đang phải đối mặt với sự bất ổn ngày càng gia tăng sau lời đe dọa áp thuế đối với chất bán dẫn và dược phẩm của Tổng thống Mỹ Donald Trump.
Nvidia là công ty đầu tiên đạt mức vốn hóa thị trường 4 nghìn tỷ đô la Vietnet24h - Cổ phiếu Nvidia tăng hơn 2% vào thứ Tư và lần đầu tiên vượt qua mức vốn hóa thị trường 4 nghìn tỷ đô la.
Bê tông thông minh và giấc mơ về một ngành xây dựng trung hòa carbon Vietnet24h - Trong bối cảnh biến đổi khí hậu trở thành một trong những thách thức cấp bách nhất của nhân loại, một đột phá từ Đại học Southern California (USC) có thể định hình lại ngành xây dựng – lĩnh vực vốn là một trong những nguồn phát thải CO₂ lớn nhất toàn cầu. Nhưng lần này, vật liệu truyền thống như bê tông không chỉ là một phần của vấn đề, mà đang được tái định nghĩa để trở thành một phần của giải pháp.
Apple hướng đến mục tiêu cách mạng hóa nhiếp ảnh với camera iPhone mới lấy cảm hứng từ thị giác con người Vietnet24h - Theo một bằng sáng chế mới được nộp, Apple đang hướng đến mục tiêu cách mạng hóa công nghệ camera trên những chiếc iPhone trong tương lai, tiết lộ những kế hoạch đầy tham vọng nhằm nâng cao khả năng chụp ảnh.
Otto Aviation trình làng máy bay không cửa sổ Phantom 3500, bay thử từ 2027 Vietnet24h - Mẫu máy bay Phantom 3500 do Otto Aviation phát triển đang gây chú ý với thiết kế không cửa sổ nhằm tăng hiệu suất khí động học. Công ty dự kiến sẽ cho cất cánh thử nghiệm vào cuối năm 2027, mở ra chương mới cho hàng không thương mại cận âm.
LG Innotek ra mắt mô-đun xe truyền thông vệ tinh 5G đầu tiên trên thế giới Vietnet24h - Mô-đun mới nhất hỗ trợ 5G NR-NTN, một mạng truyền thông di động hoạt động trên các vệ tinh quỹ đạo Trái đất thấp, cho phép truyền dữ liệu khối lượng lớn theo thời gian thực.
Công nghệ như phim viễn tưởng: Đeo kính áp tròng, nhắm mắt vẫn thấy rõ! Vietnet24h - Ngỡ chỉ có trong phim Marvel, nhưng loại kính áp tròng siêu nhỏ gọn vừa ra đời tại Trung Quốc lại có thể giúp người dùng nhìn thấy trong đêm tối mà không cần mở mắt. Chuyện thật như đùa, nhưng khoa học đã chứng minh điều đó là khả thi.
Google, Samsung sẽ ra mắt kính thông minh XR trong năm nay Vietnet24h - Samsung bước lên vị trí dẫn đầu về phần cứng trong sự trở lại của kính thông minh Google, mở rộng vai trò trong hệ sinh thái XR đang phát triển
Neuralink: cấy chip não, biên tập video và đăng YouTube bằng suy nghĩ Vietnet24h - Trong một bước đột phá ấn tượng, Bradford Smith, người mắc bệnh ALS, đã chứng minh khả năng tuyệt vời của công nghệ giao diện não-máy tính (BCI) khi có thể biên tập video và đăng tải lên YouTube chỉ bằng suy nghĩ, mà không cần sự trợ giúp từ bất kỳ thiết bị hay người khác. Đây không chỉ là sự tiến bộ trong lĩnh vực công nghệ mà còn mang lại hy vọng mới cho những người khuyết tật vận động.
LG Display công bố màn hình OLED màu xanh huỳnh quang thương mại đầu tiên trên thế giới Vietnet24h - LG Display đã xác minh thành công hiệu suất sản xuất của tấm nền điốt phát quang hữu cơ phát quang màu xanh lam (OLED) cho dây chuyền sản xuất hàng loạt lần đầu tiên trên thế giới, công ty cho biết hôm thứ Năm (1/5).
Người Trung Quốc chuẩn bị bay như Iron Man! Vietnet24h - Một thiết bị bay cá nhân vừa được trình diễn tại Hàng Châu khiến nhiều người liên tưởng đến các bộ phim siêu anh hùng. Nhưng lần này, không phải Hollywood mà chính các nhà khoa học Trung Quốc mới là người hiện thực hóa giấc mơ bay cá nhân.
Công nghệ cấy ghép não được FDA chấp thuận cho Precision Neuroscience Vietnet24h - Precision Neuroscience thông báo rằng một thành phần cốt lõi của hệ thống cấy ghép não đã được Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ chấp thuận.