Tính khả tái lập

Diffusion là một quá trình ngẫu nhiên, tạo ra kết quả khác nhau mỗi lần chạy. Đối với các trường hợp sử dụng như kiểm thử và tái tạo kết quả, bạn muốn tạo ra cùng một kết quả mỗi lần, xuyên suốt các phiên bản và nền tảng khác nhau trong một khoảng dung sai nhất định.

Hướng dẫn này sẽ cho bạn thấy cách kiểm soát các nguồn ngẫu nhiên và bật các thuật toán tất định.

Generator

Pipelines dựa vào torch.randn, vốn sử dụng một hạt ngẫu nhiên khác nhau mỗi lần, để tạo ra các tensor nhiễu ban đầu. Để tạo ra cùng một kết quả trên CPU hoặc GPU, hãy sử dụng Generator để quản lý cách các giá trị ngẫu nhiên được tạo ra.

Nếu tính tái lập quan trọng, bạn nên sử dụng Generator trên CPU. Sự suy giảm hiệu năng thường không đáng kể và bạn sẽ tạo ra các giá trị tương tự hơn.

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained(
    "Qwen/Qwen-Image", dtype=torch.bfloat16, device_map="cuda"  # or "mps", "xpu", "cpu"
)
generator = torch.manual_seed(0)
image = pipeline(
    prompt="a red apple on a wooden table",
    generator=generator,
    num_inference_steps=4,
).images[0]

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained(
    "Qwen/Qwen-Image", dtype=torch.bfloat16, device_map="cpu"
)
generator = torch.Generator(device="cpu").manual_seed(0)
image = pipeline(
    prompt="a red apple on a wooden table",
    generator=generator,
    num_inference_steps=4,
).images[0]

Truyền một đối tượng Generator vào pipeline thay vì một hạt giống (seed) dạng số nguyên. Một Generator giữ một trạng thái ngẫu nhiên, được tiêu thụ và cập nhật khi bạn sử dụng nó. Sau đó, cùng một đối tượng sẽ tạo ra các kết quả khác nhau ở các lần gọi tiếp theo, kể cả giữa các pipeline, vì trạng thái của nó đã thay đổi. Hãy đặt lại hạt giống hoặc tạo một Generator mới trước mỗi lần gọi khi bạn cần sử dụng lại cùng một hạt giống.

import torch

prompt = "a red apple on a wooden table"

for _ in range(5):
    generator = torch.manual_seed(0)
    image = pipeline(prompt, generator=generator, num_inference_steps=4).images[0]

Thuật toán tất định

PyTorch hỗ trợ các thuật toán tất định (khi có sẵn) cho một số thao tác để chúng tạo ra cùng kết quả. Các thuật toán tất định có thể chạy chậm hơn và làm giảm hiệu suất.

Sử dụng enable_full_determinism() của Diffusers để bật các thuật toán tất định.

from diffusers.utils.torch_utils import enable_full_determinism

enable_full_determinism()

enable_full_determinism hoạt động bằng cách:

• Đặt biến môi trường CUDA_LAUNCH_BLOCKING thành 1
• Đặt biến môi trường CUBLAS_WORKSPACE_CONFIG thành :16:8 để cuBLAS sử dụng bố cục workspace cố định khi chạy
• Gọi torch.use_deterministic_algorithms(True)
• Đặt torch.backends.cudnn.deterministic = True
• Đặt torch.backends.cudnn.benchmark = False để cuDNN không chọn một thuật toán convolution khác nhau ở mỗi lần chạy
• Tắt TensorFloat32 (TF32) bằng torch.backends.cuda.matmul.allow_tf32 = False để ưu tiên phép nhân ma trận độ chính xác đầy đủ hơn

Các bước tiếp theo

Bạn nên đọc ghi chú dành cho nhà phát triển của PyTorch về Reproducibility. Bạn có thể cố gắng hạn chế tính ngẫu nhiên, nhưng điều này không được đảm bảo ngay cả khi sử dụng cùng một seed.