Bảng tương thích driver của Tensorflow với CUDA/GCC

Trong machine learning, thi thoảng các anh em gặp phải rắc rối khi cần train hoặc tinh chỉnh các model cũ, nhất là các model mà được viết ở Tensorflow v1 (TFv1). Vì thường là khá khó để cho TFv1 chạy được trong môi trường cập nhật nhất. Bài vết này sẽ đi vào các vấn đề liên quan và giải pháp.

Luồng thông thường khi cần giải quyết vấn đề tương thích driver của TF là:

• TensorFlow → Python
• TensorFlow → Cudnn/Cuda → NVIDIA driver/GCC

Nếu anh em nào vào đây chỉ để cài đặt TFv1

Anh em cài đặt chính xác các phiên bản sau thì có thể sử dụng ngay được TFv1.

• tensorflow==1.15 ( phiên bản v1 cuối cùng).
• tensorflow-gpu==1.15.
• Python 3.7 (phiên bản cuối cùng tương thích với TF 1.15).
• CUDA 10.0 (yêu cầu bởi TF 1.15). Chú ý: vis dụ như bản CUDA 10.2 sẽ không hoạt động nên anh em khá nên cài chính xác phiên bản tôi đề xuất.
• NVIDIA driver 410.48 (kèm với CUDA 10.0 Toolkit) hoặc NVIDIA 470 (tôi cài thử qua apt và xác nhận có hoạt động).
• Cudnn 7.4 (yêu cầu bởi TF 1.15).
• tensorflow-probability==0.7 (yêu cầu project riêng, ghi luôn nếu anh em cần).
• tensorflow-datasets==3.2.1 (yêu cầu từ project, ghi luôn nếu anh em cần).

Bảng tương thích của Tensorflow

Nhìn chung TF khá là gắt về yêu cầu cài đặt. Anh em kiểm tra theo thông tin dưới đây.

Trang chính thức từ nhà cái TF.

Linux

CPU (Linux)

GPU (Linux)

Chú ý là TF khá gắt về các phiên bản của CUDA. VD với TF 1.5, anh em cài CUDA 10.2 thì không chạy, mà cài đúng CUDA 10.0 thì mới chạy.

Các anh em có thể thử CUDA 10.2 với TF1.5, nó sẽ ra cái lỗi này:

2022-06-21 21:10:57.123081: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1618] Found device 0 with properties: 
name: NVIDIA GeForce RTX 3090 major: 8 minor: 6 memoryClockRate(GHz): 1.695
pciBusID: 0000:b3:00.0
2022-06-21 21:10:57.123186: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libcudart.so.10.0'; dlerror: libcudart.so.10.0: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda/lib64
2022-06-21 21:10:57.123237: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libcublas.so.10.0'; dlerror: libcublas.so.10.0: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda/lib64
2022-06-21 21:10:57.123279: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libcufft.so.10.0'; dlerror: libcufft.so.10.0: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda/lib64
2022-06-21 21:10:57.123320: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libcurand.so.10.0'; dlerror: libcurand.so.10.0: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda/lib64
2022-06-21 21:10:57.123362: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libcusolver.so.10.0'; dlerror: libcusolver.so.10.0: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda/lib64
2022-06-21 21:10:57.123402: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libcusparse.so.10.0'; dlerror: libcusparse.so.10.0: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda/lib64
2022-06-21 21:10:57.123443: W tensorflow/stream_executor/platform/default/dso_loader.cc:55] Could not load dynamic library 'libcudnn.so.7'; dlerror: libcudnn.so.7: cannot open shared object file: No such file or directory; LD_LIBRARY_PATH: /usr/local/cuda/lib64
2022-06-21 21:10:57.123452: W tensorflow/core/common_runtime/gpu/gpu_device.cc:1641] Cannot dlopen some GPU libraries. Please make sure the missing libraries mentioned above are installed properly if you would like to use GPU. Follow the guide at https://www.tensorflow.org/install/gpu for how to download and setup the required libraries for your platform.
Skipping registering GPU devices...

macOS

CPU (macOS)

GPU (macOS)

Tương thích từ CUDA sang NVIDIA Driver

Bảng tương thích chính thức từ nhà cái NVIDIA.

Điều kiện tương thích này thì mềm hơn, ko gắt như bên TF. Dạng yêu cầu thường sẽ là CUDA ver x cần NVIDIA driver thấp nhất là ver y. Nhưng kể cả thế, thì nếu mốn ăn chắc anh em cứ cài phiên bản gần nhất so với yêu cầu, mà còn có thể down về được, để tránh rủi ro phải cài lại.

Thường trong CUDA Toolkit có kèm theo NVIDIA driver, anh em dùng luôn phiên bản đó cũng giảm được cơ số các rủi ro.

Link download CUDA Toolkit, có bao gồm các phiên bản cũ, cung cấp chính thức từ nhà cái NVIDIA.

Tương thích Cudnn/CUDA

Điều kiện tương thích này là đều kiện lỏng nhất. NVIDIA có các bản build của cudnn riêng cho từng phiên bản CUDA. Danh sách để download các bản build từ nhà cái (yêu câu đăng ký).

Bên TF họ không ghi yêu cầu về phiên bản cudnn nên các anh em có thể thử bản mới nhất mà tương thích với các phần còn lại (nvidia driver, cuda, ...)

Đến đây thôi, bài này dài quá, anh em nào đọc tiếp thì theo dõi tiếp ở bài bằng tiếng Anh: https://transang.me/cuda-cudnn-driver-gcc-tensorflow-python-version-compatibility-charts/

Nội dung các phần sau gồm:

• Tương thích nvidia driver -> GCC
• Tương thích CUDA -> GCC
• Các cách để quản lý nhiều phiên bản GCC trên cùng OS.
• Các tương thích khác như Tensorflow Probability, Tensorflow datasets, ...