TensorFlow คืออะไร และวิธีติดตั้งบน Cloud Server

ทดสอบบน Ubuntu Server 24.04 LTS

1. 1

   เตรียมสภาพแวดล้อม

   คัดลอก

   sudo apt update
   sudo apt -y install python3-pip python3-venv
   python3 -m venv ~/venv && source ~/venv/bin/activate

2. 2

   ติดตั้ง TensorFlow

   ตรวจรุ่นที่รองรับไดรเวอร์ GPU ที่ติดตั้งไว้จากเอกสารทางการก่อน เพราะความเข้ากันได้ของเวอร์ชันเข้มงวดกว่าเฟรมเวิร์กอื่น

   คัดลอก

   pip install tensorflow

3. 3

   ตรวจว่าใช้ GPU ได้

   คัดลอก

   python3 -c "import tensorflow as tf; print(tf.__version__); print(tf.config.list_physical_devices('GPU'))"

4. 4

   ฝึกและบันทึกโมเดล

   คัดลอก

   import tensorflow as tf
   
   model = tf.keras.Sequential([
       tf.keras.layers.Dense(64, activation="relu", input_shape=(10,)),
       tf.keras.layers.Dense(1),
   ])
   model.compile(optimizer="adam", loss="mse")
   model.save("/srv/models/demo/1")

5. 5

   ให้บริการโมเดลผ่าน API ด้วยคอนเทนเนอร์

   คัดลอก

   docker run -d --name tf-serving \
     -p 127.0.0.1:8501:8501 \
     -v /srv/models/demo:/models/demo \
     -e MODEL_NAME=demo \
     --restart unless-stopped \
     tensorflow/serving

6. 6

   ทดสอบเรียกใช้และวาง Reverse Proxy

   ทดสอบเรียก API แล้วให้ Nginx รับ HTTPS จากภายนอกและส่งต่อเข้ามา พร้อมจำกัดว่าใครเรียกใช้ได้

   คัดลอก

   curl -d '{"instances": [[1,2,3,4,5,6,7,8,9,10]]}' \
     -H "Content-Type: application/json" \
     http://127.0.0.1:8501/v1/models/demo:predict

ความเข้ากันได้ระหว่างรุ่นของไลบรารีกับไดรเวอร์ GPU เข้มงวดกว่าเฟรมเวิร์กอื่น ควรตรวจตารางความเข้ากันได้ในเอกสารทางการก่อนติดตั้งทุกครั้ง