Thị trường công nghệ
Mô hình A.I. mới nhất của Google sử dụng dữ liệu văn bản nhiều hơn gần năm lần để đào tạo so với mô hình trước đó
Nam Phong - Thứ Tư, 17/05/2023 11:35 SA
Vietnet24h - Mô hình ngôn ngữ lớn PaLM 2 của Google đang sử dụng gần gấp năm lần lượng dữ liệu văn bản để đào tạo so với LLM tiền nhiệm của nó
Mô hình ngôn ngữ lớn mới của Google, mà công ty đã công bố vào tuần trước, sử dụng lượng dữ liệu đào tạo gần gấp năm lần so với mô hình ngôn ngữ tiền nhiệm từ năm 2022, cho phép nó thực hiện các tác vụ viết mã, toán học và sáng tạo nâng cao hơn.
 
PaLM 2, mô hình ngôn ngữ lớn sử dụng chung (LLM) mới của công ty đã được công bố tại Google I/O, được đào tạo trên 3,6 nghìn tỷ mã thông báo. Các mã thông báo, là các chuỗi từ, là một khối xây dựng quan trọng để đào tạo LLM, bởi vì chúng dạy cho mô hình dự đoán từ tiếp theo sẽ xuất hiện trong một chuỗi.
 
Phiên bản PaLM trước đây của Google, viết tắt của Mô hình ngôn ngữ con đường, được phát hành vào năm 2022 và được đào tạo trên 780 tỷ mã thông báo.
 
Mặc dù Google háo hức giới thiệu sức mạnh của công nghệ trí tuệ nhân tạo và cách nó có thể được nhúng vào tìm kiếm, email, xử lý văn bản và bảng tính, nhưng công ty đã không muốn công bố kích thước hoặc các chi tiết khác về dữ liệu đào tạo của mình. OpenAI, Microsoft
-người tạo ra ChatGPT được hỗ trợ, cũng đã giữ bí mật các chi tiết cụ thể của LLM mới nhất của mình có tên là GPT-4.
 
Các công ty cho biết lý do thiếu công bố thông tin là bản chất cạnh tranh của hoạt động kinh doanh. Google và OpenAI đang gấp rút thu hút những người dùng có thể muốn tìm kiếm thông tin bằng chatbot đàm thoại thay vì các công cụ tìm kiếm truyền thống.
 
Nhưng khi cuộc chạy đua AI đang nóng lên, cộng đồng nghiên cứu đang đòi hỏi sự minh bạch cao hơn.
 
Kể từ khi công bố PaLM 2, Google đã cho biết mô hình mới nhỏ hơn so với các LLM trước đó, điều này rất quan trọng vì điều đó có nghĩa là công nghệ của công ty đang trở nên hiệu quả hơn trong khi hoàn thành các tác vụ phức tạp hơn. PaLM 2, theo các tài liệu nội bộ, được đào tạo trên 340 tỷ tham số, một dấu hiệu cho thấy mức độ phức tạp của mô hình. PaLM ban đầu được đào tạo trên 540 tỷ thông số.
 
Google đã không đưa ra bình luận ngay lập tức cho câu chuyện này.

Google cho biết trong một bài đăng trên blog về PaLM 2 rằng mô hình này sử dụng một “kỹ thuật mới” được gọi là “mở rộng quy mô điện toán tối ưu”. Điều đó làm cho LLM “hiệu quả hơn với hiệu suất tổng thể tốt hơn, bao gồm suy luận nhanh hơn, cung cấp ít tham số hơn và chi phí phục vụ thấp hơn”.
 
Khi công bố PaLM 2, Google đã xác nhận báo cáo trước đây rằng, mô hình này được đào tạo trên 100 ngôn ngữ và thực hiện nhiều nhiệm vụ khác nhau. Nó đã được sử dụng để cung cấp năng lượng cho 25 tính năng và sản phẩm, bao gồm cả chatbot thử nghiệm Bard của công ty. Nó có bốn kích cỡ, từ nhỏ nhất đến lớn nhất: Tắc kè, Rái cá, Bò rừng và Kỳ lân.
 
PaLM 2 mạnh hơn bất kỳ mô hình hiện có nào, dựa trên các tiết lộ công khai. LLM của Facebook được gọi là LLaMA, được công bố vào tháng 2, được đào tạo trên 1,4 nghìn tỷ mã thông báo. Lần cuối cùng OpenAI chia sẻ quy mô đào tạo của ChatGPT là với GPT-3, khi công ty cho biết họ đã được đào tạo trên 300 tỷ mã thông báo vào thời điểm đó. OpenAI đã phát hành GPT-4 vào tháng 3 và cho biết nó thể hiện “hiệu suất ở cấp độ con người” trong nhiều bài kiểm tra chuyên nghiệp.
 
LaMDA, một LLM hội thoại mà Google đã giới thiệu hai năm trước và chào hàng vào tháng 2 cùng với Bard, đã được đào tạo trên 1,5 nghìn tỷ mã thông báo, theo các tài liệu mới nhất được CNBC xem.
 
Khi các ứng dụng AI mới nhanh chóng trở thành xu hướng chủ đạo, những tranh cãi xung quanh công nghệ cơ bản ngày càng gay gắt hơn.
 
El Mahdi El Mhamdi, một nhà khoa học cấp cao của Google Research, đã từ chức vào tháng Hai vì sự thiếu minh bạch của công ty. Vào thứ Ba, Giám đốc điều hành OpenAI Sam Altman đã làm chứng tại phiên điều trần của tiểu ban Tư pháp Thượng viện về quyền riêng tư và công nghệ, đồng thời đồng ý với các nhà lập pháp rằng cần có một hệ thống mới để đối phó với AI.
 
“Đối với một công nghệ rất mới, chúng tôi cần một khuôn khổ mới,” Altman nói. “Chắc chắn những công ty như công ty của chúng tôi chịu rất nhiều trách nhiệm đối với các công cụ mà chúng tôi đưa ra thế giới.”
Người đứng đầu ChatGPT sẽ điều trần trước Quốc hội Hoa Kỳ về trí tuệ nhân tạo Vietnet24h - Người đứng đầu công ty trí tuệ nhân tạo tạo ra ChatGPT sẽ điều trần trước Quốc hội (Hoa kỳ) khi các nhà lập pháp kêu gọi các quy tắc mới để hướng dẫn sự phát triển nhanh chóng của công nghệ AI.
Trí tuệ nhân tạo của Google đang đến với nhiều công ty gần bạn hơn Vietnet24h - Báo cáo tài chính, hoạt động tiếp thị hàng may mặc và trợ lý trò chuyện mà bạn tương tác có thể sớm phản ánh một nguồn gốc chung: trí tuệ nhân tạo từ Google.
Theo CNBC
Tin khác cùng chuyên mục
Tin đọc nhiều
Realme 13+ 5G: đột phá công nghệ dành cho game thủ thể thao điện tử Vietnet24h - Realme 13+ 5G là mẫu smartphone mới nhất vừa ra mắt, được trang bị công nghệ tiên tiến với chipset Dimensity 7300 và RAM mở rộng đến 26GB. Sản phẩm hứa hẹn sẽ mang đến trải nghiệm chơi game tuyệt vời với chế độ GT tối ưu hóa hiệu suất, cùng với sạc siêu nhanh 80W giúp người dùng không lo về thời gian chờ đợi.
Chip Core Ultra 200S của Intel: Cuộc cách mạng trong xử lý máy tính để bàn Vietnet24h - Intel vừa ra mắt chip Core Ultra 200S, sản phẩm mới nhất trong dòng máy tính để bàn, với những cải tiến đáng kể về hiệu suất và công nghệ AI. Sự ra mắt này không chỉ mang lại những trải nghiệm tốt hơn cho người dùng mà còn mở ra kỷ nguyên mới trong ngành công nghiệp công nghệ.
Thị trường máy tính cá nhân giảm 1,3% trong quý III năm nay Vietnet24h - Lượng máy tính cá nhân xuất xưởng trong quý 3 đạt 62,9 triệu chiếc, giảm 1,3% so với cùng kỳ năm trước so với quý 3 năm 2023 sau ba quý liên tiếp tăng trưởng theo năm.
Black Myth: Wukong ra mắt bản mở rộng đầu tiên vào đầu năm 2025 Vietnet24h - Black Myth: Wukong không chỉ gặt hái thành công khủng ngay từ khi ra mắt mà còn chuẩn bị phát hành bản mở rộng đầu tiên vào đầu năm 2025. Các fan của Tôn Ngộ Không sẽ được trải nghiệm những trận đánh đỉnh cao cùng cốt truyện lôi cuốn.
Sony ra mắt PlayStation 5 Pro nâng cấp để thúc đẩy hoạt động kinh doanh máy chơi game Vietnet24h - Hôm qua, thứ ba (10/9), Sony đã tiết lộ phiên bản nâng cấp của máy chơi game PlayStation 5, có tên là PlayStation 5 Pro.
Black Myth: Wukong bứt phá doanh số, trở thành hiện tượng game mới Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai dựa trên tiểu thuyết Tây Du Ký, đang khiến làng game toàn cầu xôn xao với thành tích ấn tượng: bán được 10 triệu bản chỉ trong hơn ba ngày kể từ ngày phát hành. Thành tích này không chỉ xác lập một kỷ lục mới mà còn cho thấy sự bùng nổ của trò chơi trong giới game thủ.
Anh tiên phong phát triển mạng lượng tử, đặt nền móng cho tương lai an ninh mạng không thể bị xâm phạm Vietnet24h - Chính phủ Anh đang đặt nền móng cho một tương lai an ninh mạng vượt trội bằng cách thúc đẩy phát triển cơ sở hạ tầng mạng dựa trên vật lý lượng tử, với hy vọng tạo ra một hệ thống không thể bị hack. Đây là bước tiến quan trọng nhằm ngăn chặn tình trạng tin tặc đánh cắp thông tin, một thách thức đang ngày càng gia tăng trong kỷ nguyên số.
Mở rộng thị trường máy tính giá rẻ: Qualcomm ra mắt Snapdragon X Elite với mức giá 700 EUR Vietnet24h - Qualcomm đã công bố kế hoạch táo bạo cho năm tới, khi máy tính tích hợp chip Snapdragon X Elite sẽ được bán ra với mức giá bất ngờ: chỉ 700 EUR. Đây là động thái chiến lược nhằm tạo ra một cú sốc trên thị trường máy tính để bàn, nơi mà Qualcomm dự định mở rộng sự hiện diện của mình để cạnh tranh trực tiếp với các ông lớn như Intel và AMD.
Microsoft công bố máy chơi game Xbox hoàn toàn kỹ thuật số, tựa game 'Doom' tại Games Showcase Vietnet24h - Microsoft đã khai mạc Triển lãm trò chơi Xbox hàng năm vào Chủ nhật, công bố phiên bản hoàn toàn kỹ thuật số mới của bảng điều khiển Xbox Series X và S cũng như các đoạn giới thiệu cho hơn chục trò chơi, bao gồm cả phần tiếp theo của "Call of Duty".
Giám đốc điều hành Intel thề sẽ tăng cường hợp tác với Samsung, LG trên PC có tính năng AI Vietnet24h - Một giám đốc điều hành cấp cao của Intel hôm thứ Tư (5/6) cho biết, gã khổng lồ chip của Mỹ sẽ mở rộng hợp tác với Samsung Electronics và LG Electronics cho máy tính cá nhân hỗ trợ trí tuệ nhân tạo (AI).
Trung Quốc đe dọa Samsung, SK hynix bằng cách hạ giá DRAM Vietnet24h - Các nhà sản xuất chip Hàn Quốc tìm kiếm đột phá với các sản phẩm có giá trị cao
Màn hình hiển thị của Hàn Quốc có thể được hưởng lợi từ thuế quan của Trump đối với các sản phẩm Trung Quốc Vietnet24h - Khi Tổng thống đắc cử Hoa Kỳ Donald Trump chuẩn bị áp dụng các biện pháp kinh tế cứng rắn hơn đối với Trung Quốc, một triển vọng lạc quan đang nổi lên rằng các nhà sản xuất màn hình Hàn Quốc có thể được hưởng lợi từ mức thuế quan cao đối với các sản phẩm do các đối thủ Trung Quốc của họ xuất khẩu.
CEO LG Energy Solution dự đoán thị trường pin EV sẽ khó khăn đến năm 2026 Vietnet24h - Tổng giám đốc điều hành LG Energy Solution Kim Dong-myung cho biết hôm thứ Sáu (15/11) rằng, công ty dự kiến ​​tình hình thị trường pin xe điện toàn cầu sẽ khó khăn vào năm tới.
Samsung đối mặt thách thức lớn: cổ phiếu sụt giảm kỷ lục, nguy cơ mất thị phần trong lĩnh vực bán dẫn Vietnet24h - Sự sụt giảm mạnh của cổ phiếu Samsung trong năm nay đánh dấu một bước lùi quan trọng trong thị trường công nghệ đầy biến động. Với những khó khăn trong ngành bán dẫn và tác động từ chính sách thương mại, Samsung đang đứng trước thử thách lớn để lấy lại đà tăng trưởng.
Mất hợp đồng từ NVIDIA, SMCI đối mặt thử thách sinh tử Vietnet24h - Các hợp đồng quan trọng từ NVIDIA và đối tác khác bị đánh mất đã đẩy Super Micro Computer (SMCI) vào tình thế ngàn cân treo sợi tóc. Công ty hiện phải xử lý đồng thời khủng hoảng tài chính, áp lực pháp lý và nguy cơ bị hủy niêm yết.
Samsung Display sẽ tăng sản lượng OLED cỡ nhỏ và vừa lên 10% vào năm tới Vietnet24h - Samsung Display có kế hoạch tăng sản lượng tấm nền diode phát quang hữu cơ (OLED) cỡ nhỏ và vừa lên 10 phần trăm vào năm tới, so với sản lượng của năm nay.
Bộ đôi Samsung Bespoke và Bespoke AI nhận hai giải lớn tại VMARK 2024 Vietnet24h - Với thiết kế tinh tế và tích hợp trí tuệ nhân tạo tiên tiến, các dòng sản phẩm Samsung Bespoke và Bespoke AI đã xuất sắc nhận giải tại VMARK 2024. Thành tựu này khẳng định chiến lược không ngừng đổi mới của Samsung, mang đến những giải pháp gia dụng hiện đại, góp phần nâng tầm chất lượng cuộc sống của người dùng Việt Nam.
Dòng OPPO Find X8 với ColorOS 15 sẽ ra mắt toàn cầu, thiết lập chuẩn mực mới cho dòng điện thoại thông minh hàng đầu Vietnet24h - OPPO, thương hiệu thiết bị thông minh hàng đầu thế giới sẽ ra mắt Find X8 Series và ColorOS 15 tại sự kiện ra mắt toàn cầu, dự kiến ​​diễn ra vào ngày 21 tháng 11 năm 2024 tại Bali, Indonesia.
Samsung tụt hậu như thế nào trong cuộc bùng nổ AI dẫn đến sự xóa sổ 126 tỷ đô la Vietnet24h - Samsung Electronics đã tụt hậu so với đối thủ lâu năm SK Hynix trong lĩnh vực bộ nhớ băng thông cao.
Apple mua Pixelmator, ứng dụng chỉnh sửa ảnh trên iPhone có tính năng AI Vietnet24h - Pixelmator đã công bố trong một bài đăng trên blog vào thứ sáu rằng Apple sẽ mua lại Pixelmator, công ty sáng tạo ra các ứng dụng chỉnh sửa hình ảnh cho nền tảng iPhone và Mac của Apple.
Khám phá Toshiba M450 - TV QLED giá mềm, công nghệ tiên tiến Vietnet24h - Toshiba M450 là một trong những mẫu TV QLED hiếm hoi trên thị trường có mức giá dưới 15 triệu đồng cho phiên bản 55 inch, đồng thời hỗ trợ điều khiển giọng nói bằng tiếng Việt và đầy đủ các ứng dụng OTT phổ biến.
Apple iPhone 16, Apple Watch Series 10 và AirPods 4 ra mắt trên toàn thế giới Vietnet24h - Thứ sáu vừa qua (20/9), Apple đã chào đón khách hàng tại các cửa hàng trên toàn thế giới để ra mắt iPhone 16, Apple Watch Series 10 và AirPods 4.
Huawei Mate XT bị đầu cơ, giá bán lại vượt ngưỡng 9.800 USD Vietnet24h - Mate XT, mẫu smartphone màn hình gập ba đầy ấn tượng của Huawei, hiện đang được rao bán lại với giá lên tới 70.000 nhân dân tệ (khoảng 9.800 USD), gấp ba lần so với giá gốc của hãng. Điều này xảy ra chỉ ít ngày sau khi sản phẩm chính thức ra mắt, cho thấy nhu cầu vượt xa nguồn cung.
Xiaomi đứng thứ 2 sau Samsung về doanh số bán điện thoại thông minh trong tháng 8 Vietnet24h - Vào tháng 8, công ty Trung Quốc Xiaomi đã giành vị trí thứ hai về doanh số bán ra hàng tháng trên toàn cầu lần đầu tiên sau ba năm, đánh bại Apple.
Samsung thu hút người tiêu dùng Đức bằng tiếp thị dựa trên trải nghiệm Vietnet24h - Samsung Electronics đang mở rộng sự hiện diện của mình trên thị trường thiết bị gia dụng châu Âu bằng một chiến lược tiếp thị cho phép người tiêu dùng trải nghiệm các tính năng trí tuệ nhân tạo của mình.
Samsung hướng đến thị trường B2B với các giải pháp AI Vietnet24h - Samsung Electronics đã giới thiệu các giải pháp trí tuệ nhân tạo (AI) nhắm vào thị trường doanh nghiệp với doanh nghiệp (B2B) trong triển lãm IFA 2024 tại Berlin, với kế hoạch giới thiệu các căn hộ, văn phòng, cửa hàng và nhà ở chung được hỗ trợ bởi AI trong tương lai gần.
Samsung sẽ nới rộng khoảng cách với các đối thủ Trung Quốc bằng TV AI Vietnet24h - Samsung Electronics cho biết họ tự tin duy trì vị trí số 1 trên thị trường TV toàn cầu bằng cách nới rộng khoảng cách với các đối thủ Trung Quốc bằng công nghệ trí tuệ nhân tạo tiên tiến.
Apple mở rộng sản xuất sang Ấn Độ với iPhone 16 Pro Vietnet24h - Apple có thể sẽ sản xuất iPhone 16 Pro tại Ấn Độ, đánh dấu bước tiến mới trong việc đa dạng hóa chuỗi cung ứng toàn cầu. Dù vậy, hãng vẫn phải đối mặt với nhiều thách thức về chất lượng và sản lượng tại thị trường mới này.
Samsung dẫn đầu doanh số bán TV toàn cầu Vietnet24h - Trong khi Samsung Electronics vẫn giữ vững vị trí số 1 với tư cách là nhà sản xuất TV trong nửa đầu năm nay, các đối thủ Trung Quốc dường như đang tăng tốc để thu hẹp khoảng cách với họ.
Lượng hàng TV toàn cầu tăng trưởng trở lại sau một năm bắt đầu từ quý 2 năm nay Vietnet24h - Thị trường TV toàn cầu tăng trưởng lần đầu tiên sau bốn quý vào quý 2 năm 2024 nhờ Thế vận hội Olympic Paris.