Column & dtype
Column là trường trong dataset; dtype là kiểu được engine suy ra (ví dụ số, chuỗi, datetime). Kiểu suy ra giúp chọn phép tính phù hợp, không tự sửa dữ liệu.
Documentation giải thích metric, concept và status trong VDaAgent. Để thực hiện workflow, hãy mở Guide.
Metric được ghi theo contract profiling hiện tại; số liệu sample luôn có nhãn approximate.
Column là trường trong dataset; dtype là kiểu được engine suy ra (ví dụ số, chuỗi, datetime). Kiểu suy ra giúp chọn phép tính phù hợp, không tự sửa dữ liệu.
Số dòng và số cột trong phạm vi scan. Với sample scan, số liệu được đánh dấu approximate và có thể có margin of error.
Null count là số giá trị thiếu; null % = null count trên tổng số dòng, hiển thị theo phần trăm. Missingness cao có thể ảnh hưởng đến phép tính và cần tìm nguyên nhân.
Số giá trị khác nhau (bỏ qua null) của một cột. Cardinality cao thường gặp ở identifier; cardinality thấp phù hợp cho nhóm/phân loại, nhưng không tự nói lên chất lượng.
Cardinality chia cho số giá trị non-null. Gần 1 có nghĩa phần lớn giá trị là duy nhất; đây là tín hiệu cho candidate key, không phải xác nhận key tự động.
Các giá trị xuất hiện nhiều nhất và số lần xuất hiện, tối đa theo cấu hình profiling. Giá trị của cột được đánh dấu PII không được đưa vào top values.
Số dòng trùng hoàn toàn sau khi so sánh các cột; duplicate rate là tỷ lệ trên tổng số dòng. Trùng có thể là lỗi hoặc có chủ đích, nên cần hiểu grain trước khi loại bỏ.
Với cột số, engine có thể hiển thị min, max, mean, median, std, q1 (25%) và q3 (75%). Đây là thống kê mô tả, không phải kiểm định nguyên nhân.
outlier_count là số điểm được đánh dấu theo phương pháp cấu hình (mặc định IQR; hệ thống cũng hỗ trợ z-score/both). Outlier là tín hiệu cần xem xét, không mặc định là lỗi.
Ma trận tương quan Pearson giữa các cột số, trong khoảng -1 đến 1. Dấu cho biết hướng và trị tuyệt đối cho biết mức liên hệ tuyến tính; correlation không hàm ý causation.
PII là thông tin có thể nhận diện cá nhân. Pipeline tạo proposal và cảnh báo/quasi-identifier để Analyst review; PII không được đưa vào top values và output bị giới hạn theo policy.
Kết quả exploratory, bounded và có thể approximate/hết hạn. Dùng để kiểm tra câu hỏi, biểu đồ và limitations trước khi lưu.
Kết quả được Promote sau khi engine revalidate và chạy lại; có result hash, context và provenance để dùng cho Agent và Report Draft.
Thông tin về nguồn và ngữ cảnh tạo kết quả: Dataset, Profile Run, QuerySpec/context và phạm vi tính. Nó giúp truy lại vì sao một con số xuất hiện.
Phiên profiling của một Dataset; là analytical context trung tâm cho profile statistics, chart, Agent, Compare và report.
Aggregation tóm tắt metric (như count hoặc mean); grouping chia kết quả theo dimension; filter giới hạn dòng theo điều kiện được hỗ trợ.
Các câu hỏi trực quan hóa: phân bố giá trị, thay đổi theo thời gian, đối chiếu nhóm hoặc mối liên hệ giữa biến. Chọn chart dựa trên câu hỏi và kiểu dữ liệu.
Preview giúp khám phá. Chỉ Official Evidence đã được revalidate và lưu provenance mới là kết quả bền vững cho Agent hoặc Report Draft.
Trạng thái của profiling job trong worker. Job có thể succeeded nhưng Profile Run còn chờ quyết định proposal.
created là vừa tạo; pending_review cần quyết định proposal; resuming đang tiếp tục sau review; completed sẵn sàng cho phân tích; failed không sẵn sàng.
pending cần Analyst; confirmed chấp nhận; rejected loại bỏ; edited dùng giá trị chính thức khác; auto_confirmed do pipeline xác nhận theo rule.
Draft còn chỉnh sửa; stale có lý do cần xem lại; snapshot là phiên bản bất biến dùng ưu tiên cho chia sẻ/export.
Nhãn cho sample scan hoặc kết quả có ước lượng. Đọc cùng margin of error/limitations thay vì coi là số liệu đầy đủ.
Ghi nhớ ngắn gọn khi đọc một Profile Run hoặc insight.
Biết grain, kiểu dữ liệu, missingness và duplicate giúp tránh đặt câu hỏi sai hoặc diễn giải sai denominator.
Kiểm tra null, duplicate, cardinality, outlier, range và PII; ghi lại quyết định review thay vì âm thầm thay đổi dữ liệu.
Compare cho biết signal thay đổi giữa Baseline và Current Profile Run. Drift là dấu hiệu cần điều tra nguồn, thời gian hoặc quy trình; không tự chứng minh nguyên nhân.
Phân biệt mô tả với nhân quả, correlation với causation, sample với full scan và Preview với Official Evidence. Luôn đọc limitations.