Thời sự, Xã hội
Cách DeepSeek sử dụng phương pháp chưng cất để đào tạo mô hình trí tuệ nhân tạo
Minh Ngọc - Chủ Nhật, 23/02/2025 8:34 SA
Vietnet24h - Phòng thí nghiệm trí tuệ nhân tạo Trung Quốc DeepSeek đã khuấy động thị trường vào tháng 1, gây ra một đợt bán tháo công nghệ và chất bán dẫn lớn sau khi công bố các mô hình AI mà họ cho là rẻ hơn và hiệu quả hơn so với các mô hình của Mỹ.
Nhưng nỗi sợ hãi và đột phá tiềm ẩn đã thúc đẩy đợt bán tháo này còn sâu sắc hơn nhiều so với một công ty khởi nghiệp AI. Thung lũng Silicon hiện đang tính đến một kỹ thuật trong phát triển AI được gọi là chưng cất, một kỹ thuật có thể đảo ngược bảng xếp hạng AI.
 
Chưng cất là một quá trình trích xuất kiến ​​thức từ một mô hình AI lớn hơn để tạo ra một mô hình nhỏ hơn. Nó có thể cho phép một nhóm nhỏ hầu như không có nguồn lực nào tạo ra một mô hình tiên tiến.
 
Một công ty công nghệ hàng đầu đầu tư nhiều năm và hàng triệu đô la để phát triển một mô hình hàng đầu từ đầu. Sau đó, một nhóm nhỏ hơn như DeepSeek lao vào và đào tạo mô hình chuyên biệt hơn của riêng mình bằng cách đặt câu hỏi cho mô hình "giáo viên" lớn hơn. Quá trình này tạo ra một mô hình mới có khả năng gần như mô hình của công ty lớn nhưng đào tạo nhanh hơn và hiệu quả hơn.
 
“Kỹ thuật chưng cất này cực kỳ mạnh mẽ và cực kỳ rẻ, và nó dành cho bất kỳ ai”, Ali Ghodsi, CEO của Databricks, cho biết, đồng thời nói thêm rằng ông hy vọng sẽ thấy sự đổi mới khi nói đến cách xây dựng các mô hình ngôn ngữ lớn hay LLM. “Chúng ta sẽ thấy rất nhiều sự cạnh tranh cho LLM. Đó là những gì sẽ xảy ra trong kỷ nguyên mới mà chúng ta đang bước vào”.
 
Hiện nay, chưng cất đang cho phép các công ty khởi nghiệp và phòng nghiên cứu ít vốn cạnh tranh ở vị trí tiên tiến nhanh hơn bao giờ hết.
 
Các nhà nghiên cứu tại Berkeley cho biết, sử dụng kỹ thuật này, họ đã tái tạo mô hình lý luận của OpenAI với giá 450 đô la trong 19 giờ vào tháng trước. Ngay sau đó, các nhà nghiên cứu tại Stanford và Đại học Washington đã tạo ra mô hình lý luận của riêng họ chỉ trong 26 phút, sử dụng chưa đến 50 đô la tín dụng tính toán, họ cho biết. Công ty khởi nghiệp Hugging Face đã tái tạo tính năng mới nhất và hấp dẫn nhất của OpenAI, Nghiên cứu sâu, dưới dạng thử thách mã hóa trong 24 giờ.
 
DeepSeek không phát minh ra quá trình chưng cất, nhưng nó đã đánh thức thế giới AI về tiềm năng phá vỡ của nó. Nó cũng mở ra sự trỗi dậy của một trật tự nguồn mở mới — một niềm tin rằng tính minh bạch và khả năng tiếp cận thúc đẩy sự đổi mới nhanh hơn so với nghiên cứu đóng cửa.
 
"Nguồn mở luôn chiến thắng trong ngành công nghệ", Arvind Jain, CEO của Glean, công ty tạo ra công cụ tìm kiếm hỗ trợ AI cho các doanh nghiệp, cho biết. "Bạn không thể đánh bại được động lực mà một dự án nguồn mở thành công thực sự có thể tạo ra".
 
Bản thân OpenAI đã quay lại chiến lược nguồn đóng của mình sau thành tích của DeepSeek.
 
"Cá nhân tôi nghĩ rằng chúng ta đã đi sai hướng trong lịch sử và cần tìm ra một chiến lược nguồn mở khác", CEO của OpenAI Sam Altman đã viết trong một bài đăng trên Reddit vào ngày 31 tháng 1.
 
Sự kết hợp giữa sức hút mới tìm thấy của quá trình chưng cất và sự gia tăng phổ biến của nguồn mở đang hoàn toàn thay đổi động lực cạnh tranh trong AI.
Bắc Kinh áp dụng DeepSeek để dẫn đầu việc áp dụng AI khi tìm kiếm động lực tăng trưởng mới Vietnet24h - DeepSeek cũng đã làm rung chuyển hệ sinh thái AI của Trung Quốc, với các tổ chức nhà nước cũng như các công ty công nghệ lớn, bao gồm cả các đối thủ cạnh tranh, tận dụng kiến ​​trúc nguồn mở của nó.
Mô hình AI của Deepseek, là một tác phẩm tốt nhất của Trung Quốc nhưng hơi quá "cường điệu", Giám đốc điều hành của Google Deepmind nói Vietnet24h - Mô hình AI của Deepseek, có lẽ là tác phẩm hay nhất của Trung Quốc, Demis Hassabis, CEO của Google Deepmind cho biết vào Chủ nhật.
Tin khác cùng chuyên mục
Tin đọc nhiều
Cổ phiếu của Microsoft đạt kỷ lục mới, giành lại vị trí công ty có giá trị vốn hóa lớn nhất thế giới Vietnet24h - Cổ phiếu Microsoft đã đạt mức kỷ lục đầu tiên vào thứ năm kể từ tháng 7 năm 2024.
Cổ phiếu Tesla tăng 22% vào tháng 5 khi Elon Musk kết thúc thời gian với DOGE của Trump Vietnet24h - Cổ phiếu của hãng sản xuất ô tô Tesla do Elon Musk đứng đầu đã tăng giá vào tháng 5 mặc dù doanh số bán ô tô của công ty tại Trung Quốc và Châu Âu không mấy khả quan.
Apple, Huawei, Xiaomi dẫn đầu bảng xếp hạng 500 thương hiệu tiêu dùng hàng đầu của Trung Quốc Vietnet24h - Theo báo cáo của Đại học Bắc Kinh, bảng xếp hạng này dựa trên hành vi mua sắm trực tuyến của người tiêu dùng trong nước
Cổ phiếu Sony tăng trong phiên giao dịch đầy biến động khi nhà sản xuất PlayStation công bố mua lại cổ phiếu trị giá 1,7 tỷ đô la Vietnet24h - Thu nhập hoạt động trong ba tháng cuối năm tài chính đạt 203,6 tỷ yên, vượt qua ước tính trung bình của các nhà phân tích là 192,2 tỷ yên, mặc dù giảm 11% so với cùng kỳ năm ngoái.
Cổ phiếu Nvidia tăng sau báo cáo Trump sẽ chấm dứt lệnh hạn chế xuất khẩu chip Vietnet24h - Cổ phiếu Nvidia tăng sau báo cáo cho biết chính quyền Trump có kế hoạch sửa đổi một loạt các hạn chế về thương mại chip được gọi là quy tắc “khuyến khích AI”.
Cổ phiếu Arm giảm do dự báo yếu Vietnet24h - Arm đạt được doanh thu và lợi nhuận cao nhưng lại đưa ra dự báo đáng thất vọng trong báo cáo quý vào thứ Tư (7/5).
CEO Tim Cook cho biết thuế quan của Trump có thể khiến Apple mất 900 triệu đô la trong quý này Vietnet24h - Thuế quan có thể làm tăng thêm 900 triệu đô la vào chi phí của Apple trong quý này, CEO Apple Tim Cook cho biết hôm thứ Năm (1/5), khi ông tiết lộ rằng gã khổng lồ công nghệ này đang chuyển hoạt động sản xuất iPhone được bán tại Hoa Kỳ từ Trung Quốc sang Ấn Độ.
Cổ phiếu Meta tăng nhờ doanh thu quý đầu tiên cao hơn dự kiến Vietnet24h - Cổ phiếu Meta tăng tới 5% sau khi công ty báo cáo doanh thu trong quý đầu tiên cao hơn dự kiến.
Intel dự báo tăng trưởng yếu và sẽ cắt giảm chi phí trong năm nay Vietnet24h - Intel báo cáo thu nhập quý đầu tiên vượt kỳ vọng ở cả doanh thu và lợi nhuận, nhưng công ty đã đưa ra hướng dẫn đáng thất vọng.
Những nhà lãnh đạo công nghệ này đã quyên góp cho Trump và bây giờ họ mất hàng tỷ đô la Vietnet24h - Các nhà lãnh đạo Thung lũng Silicon đã quyên góp cho chiến dịch tranh cử hoặc quỹ nhậm chức của Tổng thống Donald Trump.
Cuộc đấu khẩu giữa Trump và Musk gây ra phản ứng từ các tỷ phú, chính trị gia và chuyên gia Vietnet24h - Trump đe dọa sẽ rút lại hàng tỷ đô la trong các hợp đồng của chính phủ dành cho Musk.
NASA bị cắt 6 tỷ USD, hơn 5 sứ mệnh đối mặt nguy cơ hủy bỏ Vietnet24h - Từ con số 24,9 tỷ USD năm 2025, ngân sách NASA dự kiến giảm còn 18,8 tỷ USD vào năm 2026. Hơn 1/3 nhân sự có thể bị cắt giảm và hàng loạt chương trình vũ trụ chiến lược đứng trước nguy cơ dừng hoạt động vĩnh viễn.
Trung Quốc và cuộc cách mạng thú cưng AI: Công nghệ đang lấp đầy khoảng trống cảm xúc Vietnet24h - Khi robot không còn chỉ là công cụ lao động mà trở thành bạn đồng hành, Trung Quốc đang chứng kiến sự trỗi dậy mạnh mẽ của thú cưng AI – từ đồ chơi tinh vi cho giới trẻ đến trợ thủ đắc lực cho người già và trẻ nhỏ. Xu hướng này không chỉ phản ánh nhu cầu gắn kết trong xã hội hiện đại mà còn mở ra một tương lai nơi cảm xúc được số hóa và công nghệ trở thành liệu pháp tâm lý.
Trung Quốc phản bác cáo buộc của Trump về việc vi phạm thỏa thuận thương mại Geneva Vietnet24h - Trung Quốc đã phản bác lại lời cáo buộc của Washington rằng nước này đã vi phạm thỏa thuận Geneva.
Chủ tịch nước Lương Cường chủ trì lễ đón Tổng thống Cộng hòa Pháp Emmanuel Macron Vietnet24h - Sáng 26/5, tại Phủ Chủ tịch, Chủ tịch nước Lương Cường và Phu nhân đã chủ trì Lễ đón Tổng thống Emmanuel Macron và Phu nhân thăm cấp Nhà nước tới Việt Nam.
Trí tuệ nhân tạo chưa giúp tăng năng suất hay lương thưởng – lỗi tại công nghệ hay tại cách dùng? Vietnet24h - Việc ứng dụng AI trong doanh nghiệp đang tăng nhanh, nhưng hiệu quả ghi nhận vẫn khiêm tốn. Nhiều chuyên gia cho rằng vấn đề không nằm ở khả năng của AI, mà ở cách doanh nghiệp phân bổ lại giá trị gia tăng do công nghệ tạo ra.
Việt Nam thành “mặt trận nóng” trong chiến tranh mạng kiểu mới: Brute-force, RDP và mối đe dọa ẩn danh Vietnet24h - Số vụ tấn công vét cạn vào các hệ thống doanh nghiệp tại Việt Nam đã vượt 19,8 triệu – cao nhất Đông Nam Á. Đây không chỉ là dấu hiệu về sự quan tâm của tin tặc quốc tế, mà còn phản ánh khoảng trống đáng báo động trong hệ thống phòng thủ mạng hiện tại, đặc biệt khi các công cụ tấn công ngày càng “tiến hóa” nhờ trí tuệ nhân tạo.
Seoul, Washington sẽ nối lại đàm phán thuế quan trước thời hạn tháng 7 Vietnet24h - Hàn Quốc và Hoa Kỳ đã tổ chức một cuộc họp thương mại song phương vào thứ Sáu để theo dõi các cuộc đàm phán thuế quan gần đây, thảo luận về các bước tiếp theo hướng tới một gói thương mại chung mà cả hai bên đều đặt mục tiêu hoàn tất vào ngày 8 tháng 7.
Google sẽ trả cho Texas 1,4 tỷ đô la để giải quyết vấn đề bảo mật dữ liệu Vietnet24h - Google đã đồng ý trả gần 1,4 tỷ đô la cho tiểu bang Texas để giải quyết các cáo buộc vi phạm quyền riêng tư dữ liệu của cư dân tiểu bang, Tổng chưởng lý Texas Ken Paxton cho biết.
Các quan chức của Trump sẽ gặp Trung Quốc, báo hiệu sự cởi mở trong đàm phán thương mại Vietnet24h - Hai quan chức cấp cao của chính quyền Trump dự kiến ​​sẽ họp vào cuối tuần này với các đại diện Trung Quốc về các vấn đề thương mại và kinh tế.
iPhone đang làm tổn thương giới trẻ? Người thiết kế ra nó lên tiếng Vietnet24h - Jony Ive, cha đẻ của iPhone, thừa nhận công nghệ smartphone đã dẫn đến những hậu quả đáng lo cho sức khỏe tâm thần. Cùng bà Powell Jobs, ông đang âm thầm phát triển một thiết bị mới để “sửa sai” cho chính di sản của mình.
Meta tìm đến trọng tài để ngăn chặn người tố giác quảng bá cuốn sách tiết lộ tất cả Vietnet24h - Meta đang tìm cách ngăn chặn việc quảng bá cuốn hồi ký mới của một cựu nhân viên có nội dung mô tả công ty theo hướng không hay, bao gồm cả cáo buộc quấy rối tình dục của giám đốc chính sách công ty.
KT kết hợp AI với thể thao, K-pop tại Đại hội Thế giới Di động (MWC) 2025 Vietnet24h - K-Stadium được thiết kế để tăng cường sự tương tác của người hâm mộ bằng AI. Một trong những tính năng chính của nó là hệ thống dịch phụ đề thời gian thực do AI hỗ trợ.
Amazon sẽ giành quyền kiểm soát sáng tạo cho loạt phim James Bond từ gia đình Broccoli Vietnet24h - Amazon sắp giành được quyền sáng tạo đối với loạt phim James Bond béo bở.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.
TikTok gặp rắc rối tại Nga: bị phạt vì không gỡ nội dung cấm Vietnet24h - Vừa qua, TikTok bị phạt gần 30.000 USD tại Nga vì vi phạm các quy định pháp lý về nội dung. Quyết định này cho thấy Nga đang quyết liệt hơn trong việc kiểm soát các nền tảng mạng xã hội.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.