Việc chạy một mô hình trí tuệ nhân tạo (AI) mà không cần kết nối internet nghe có vẻ đầy hứa hẹn, nhưng thông thường điều này đòi hỏi phần cứng mạnh mẽ và đắt đỏ. Tuy nhiên, điều này không phải lúc nào cũng đúng: mô hình DeepSeek R1 của DeepSeek là một lựa chọn hữu ích cho các thiết bị có cấu hình khiêm tốn hơn – và đáng ngạc nhiên là nó cũng rất dễ cài đặt. Điều này mở ra khả năng chạy AI cục bộ ngay trên chiếc laptop của bạn, mang lại sự tiện lợi và quyền riêng tư tối ưu.
Chạy AI Chatbot Cục Bộ Nghĩa Là Gì?
Khi bạn sử dụng các chatbot AI trực tuyến như ChatGPT, mọi yêu cầu của bạn đều được xử lý trên máy chủ của OpenAI. Điều này có nghĩa là thiết bị của bạn không phải gánh vác công việc nặng nhọc. Bạn cần kết nối internet liên tục để giao tiếp với các chatbot AI và bạn không bao giờ kiểm soát hoàn toàn dữ liệu của mình. Các mô hình ngôn ngữ lớn (LLM) cung cấp năng lượng cho các chatbot AI như ChatGPT, Gemini, Claude, v.v., đòi hỏi tài nguyên cực kỳ lớn để vận hành, vì chúng phụ thuộc vào GPU với nhiều VRAM. Đó là lý do tại sao hầu hết các mô hình AI đều dựa trên đám mây.
Ngược lại, một chatbot AI cục bộ được cài đặt trực tiếp trên thiết bị của bạn, giống như bất kỳ phần mềm nào khác. Điều này có nghĩa là bạn không cần kết nối internet liên tục để sử dụng chatbot AI và có thể gửi yêu cầu bất cứ lúc nào. DeepSeek-R1 là một LLM offline có thể được cài đặt trên nhiều thiết bị. Phiên bản 7B (bảy tỷ tham số) đã được tinh chỉnh, là một phiên bản nhỏ hơn, tối ưu hóa hoạt động tốt trên phần cứng tầm trung, cho phép bạn tạo ra các phản hồi AI mà không cần xử lý đám mây. Nói một cách đơn giản, điều này có nghĩa là phản hồi nhanh hơn, quyền riêng tư tốt hơn và kiểm soát hoàn toàn dữ liệu của bạn, biến nó thành một mô hình AI offline đáng cân nhắc.
Cách Cài Đặt DeepSeek-R1 Trên Laptop Của Tôi
Việc cài đặt DeepSeek-R1 trên thiết bị của bạn khá đơn giản, nhưng hãy nhớ rằng bạn đang sử dụng một phiên bản ít mạnh mẽ hơn so với chatbot AI dựa trên web của DeepSeek. Chatbot AI của DeepSeek sử dụng khoảng 671 tỷ tham số, trong khi DeepSeek-R1 có khoảng 7 tỷ.
Bạn có thể tải xuống và sử dụng DeepSeek-R1 trên máy tính bằng cách làm theo các bước sau:
DeepSeek-R1 đang hoạt động bên trong cửa sổ Terminal, hiển thị các lệnh và phản hồi AI trên máy tính cá nhân.
- Truy cập trang web của Ollama và tải xuống phiên bản mới nhất. Sau đó, cài đặt nó trên thiết bị của bạn như bất kỳ ứng dụng nào khác.
- Mở Terminal và nhập lệnh sau:
ollama run deepseek-r1:7b
Lệnh này sẽ tải mô hình DeepSeek-R1 7B xuống máy tính của bạn, cho phép bạn nhập các truy vấn vào Terminal và nhận phản hồi. Nếu bạn gặp vấn đề về hiệu năng hoặc lỗi, hãy thử sử dụng mô hình ít yêu cầu hơn bằng cách thay thế 7b bằng 1.5b trong lệnh trên.
Mặc dù mô hình hoạt động hoàn hảo trong Terminal, nếu bạn muốn một giao diện người dùng đầy đủ tính năng với định dạng văn bản phù hợp như ChatGPT, bạn cũng có thể sử dụng một ứng dụng như Chatbox.
Trải Nghiệm DeepSeek Cục Bộ: Ưu Nhược Điểm Thực Tế
Như đã đề cập trước đó, các phản hồi sẽ không tốt (hoặc nhanh!) bằng những gì từ chatbot AI trực tuyến của DeepSeek, vì nó sử dụng một mô hình mạnh mẽ hơn và xử lý mọi thứ trên đám mây. Nhưng hãy xem các mô hình nhỏ hơn này hoạt động tốt như thế nào.
Giải Quyết Các Bài Toán
Để kiểm tra hiệu năng của mô hình 7B tham số, tôi đã cung cấp cho nó một phương trình và yêu cầu nó giải tích phân. Tôi khá hài lòng với cách nó thực hiện, đặc biệt vì các mô hình cơ bản thường gặp khó khăn với toán học.
Phải thừa nhận rằng đây không phải là câu hỏi phức tạp nhất, nhưng đó chính là lý do tại sao việc chạy LLM cục bộ lại hữu ích đến vậy. Đó là việc có một công cụ sẵn sàng để xử lý các truy vấn đơn giản ngay lập tức thay vì phải dựa vào đám mây cho mọi thứ.
Gỡ Lỗi Mã Lệnh (Debugging Code)
Một trong những công dụng tốt nhất mà tôi tìm thấy khi chạy DeepSeek-R1 cục bộ là cách nó hỗ trợ các dự án AI của tôi. Nó đặc biệt hữu ích vì tôi thường viết code trên các chuyến bay khi không có kết nối internet, và tôi rất tin cậy vào LLM để gỡ lỗi. Để kiểm tra hiệu quả của nó, tôi đã đưa cho nó đoạn mã này với một lỗi ngớ ngẩn cố ý thêm vào.
X = np.array([1, 2, 3, 4, 5]).reshape(-1, 1) y = np.array([2, 4, 6, 8, 10]) model = LinearRegression() model.fit(X, y) new_X = np.array([6, 7, 8]) prediction = model.predict(new_X)Nó xử lý đoạn mã một cách dễ dàng, nhưng hãy nhớ rằng tôi đang chạy nó trên một chiếc MacBook Air M1 với chỉ 8GB Unified Memory. (Bộ nhớ hợp nhất được chia sẻ trên CPU, GPU và các bộ phận khác của SoC.)
DeepSeek-R1 sửa lỗi code Python
Khi mở IDE và nhiều tab trình duyệt đang chạy, hiệu năng của MacBook của tôi đã bị ảnh hưởng nghiêm trọng – tôi phải buộc thoát mọi thứ để nó phản hồi trở lại. Nếu bạn có 16GB RAM hoặc thậm chí là một GPU tầm trung, bạn có thể sẽ không gặp phải những vấn đề này.
Tôi cũng đã thử nghiệm nó với các codebase lớn hơn, nhưng nó bị mắc kẹt trong một vòng lặp suy nghĩ, vì vậy tôi sẽ không dựa vào nó để thay thế hoàn toàn các mô hình mạnh mẽ hơn. Tuy nhiên, nó vẫn hữu ích để nhanh chóng tạo ra các đoạn mã nhỏ.
Giải Các Câu Đố Logic
Tôi cũng tò mò muốn xem mô hình xử lý các câu đố và lý luận logic tốt đến mức nào, vì vậy tôi đã thử nghiệm nó với bài toán Monty Hall, và nó đã giải quyết dễ dàng. Nhưng tôi thực sự bắt đầu đánh giá cao DeepSeek vì một lý do khác.
DeepSeek-R1 giải quyết bài toán Monty Hall, cung cấp lời giải thích chi tiết về tư duy logic của mô hình AI offline.
Như hình ảnh hiển thị, nó không chỉ đưa ra câu trả lời – nó còn hướng dẫn bạn qua toàn bộ quá trình tư duy, giải thích cách nó đi đến giải pháp. Điều này làm rõ rằng nó đang lý luận thông qua vấn đề chứ không chỉ đơn giản là gọi lại một câu trả lời đã ghi nhớ từ dữ liệu đào tạo của nó.
Công Việc Nghiên Cứu
Một trong những nhược điểm lớn nhất của việc chạy LLM cục bộ là giới hạn kiến thức bị lỗi thời của nó. Vì nó không thể truy cập internet, việc tìm kiếm thông tin đáng tin cậy về các sự kiện gần đây có thể là một thách thức. Hạn chế này đã rõ ràng trong quá trình thử nghiệm của tôi, nhưng nó còn tệ hơn khi tôi yêu cầu một cái nhìn tổng quan ngắn gọn về iPhone đời đầu – nó đã tạo ra một phản hồi vừa không chính xác vừa vô cùng hài hước.
iPhone đời đầu rõ ràng không ra mắt với iOS 5, cũng không phải ra đời sau “iPhone 3” không tồn tại. Nó đã sai gần như mọi thứ. Tôi đã thử nghiệm nó với một vài câu hỏi cơ bản khác, nhưng những thông tin không chính xác vẫn tiếp diễn.
Sau khi DeepSeek gặp sự cố rò rỉ dữ liệu, thật yên tâm khi biết rằng tôi có thể chạy mô hình này cục bộ mà không phải lo lắng về việc dữ liệu của mình bị lộ. Mặc dù không hoàn hảo, việc có một trợ lý AI ngoại tuyến là một lợi thế rất lớn. Tôi rất muốn thấy nhiều mô hình như thế này được tích hợp vào các thiết bị tiêu dùng như điện thoại thông minh, đặc biệt là sau sự thất vọng của tôi với Apple Intelligence.
