ניהול שמירת הנתונים באמצעות מדיניות TTL

בדף הזה נסביר איך להשתמש במסוף Google Cloud וב-Google Cloud CLI כדי להגדיר מדיניות זמן חיים (TTL). לפני שקוראים את הדף הזה, עליכם להבין את מודל הנתונים Cloud Firestore.

סקירה כללית על זמן החיים

תוכלו להשתמש במדיניות TTL כדי להסיר באופן אוטומטי נתונים לא פעילים ממסדי הנתונים. מדיניות TTL מגדירה שדה נתון בתור זמן התפוגה של מסמכים בקבוצת אוספים נתונה. בעזרת TTL תוכלו למחוק נתונים לא רלוונטיים ולצמצם את עלויות האחסון. הנתונים נמחקים בדרך כלל תוך 24 שעות מתאריך התפוגה שלהם.

תמחור

פעולות מחיקה של TTL נכללות בעלויות המחיקה של המסמכים. למידע על התמחור של פעולות מחיקה, ראו תמחור של Cloud Firestore.

מגבלות ומגבלות

  • אפשר לסמן רק שדה אחד לכל קבוצת אוספים בתור שדה TTL.
  • מותר להגדיר 200 הגדרות ברמת השדה בסך הכול. הגדרת שדה אחת יכולה להכיל כמה הגדרות לאותו שדה. לדוגמה, פטור מהוספה לאינדקס בשדה יחיד ומדיניות TTL באותו שדה נחשבים להגדרה של שדה אחד במסגרת המגבלה.
  • לקוחות Firestore במצב Datastore לא יכולים להשתמש ב-TTL עם מצב בו-זמניות של אופטימי עם קבוצות ישויות. כדאי לשקול לשנות את סטטוס 'מצב בו-זמניות' למצב בו-זמניות אופטימיסטי.

מחיקה של TTL

חשוב לשים לב להתנהגויות העיקריות הבאות של מחיקה מבוססת-TTL:

  • המחיקה באמצעות TTL היא לא תהליך מיידי. מסמכים שפג תוקפם ממשיכים להופיע בשאילתות ובבקשות חיפוש עד שתהליך ה-TTL מוחק אותם בפועל. ב-TTL אנחנו מחליפים את לוחות הזמנים למחיקת נתונים כדי לחסוך בעלות הכוללת של הבעלות למחיקה. הנתונים נמחקים בדרך כלל תוך 24 שעות ממועד התפוגה שלהם.

  • מחיקת מסמך באמצעות TTL לא מוחקת אוספי משנה של המסמך הזה.

  • החלת מדיניות TTL על קבוצת אוספים קיימת תגרום למחיקה בכמות גדולה של כל הנתונים שפג תוקפם, בהתאם למדיניות ה-TTL החדשה. חשוב לזכור שהמחיקה בכמות גדולה לא מתבצעת באופן מיידי, והיא תלויה בכמות הנתונים שקיימים בקבוצת האוספים הזו.

  • אם למסמך יש תאריך תפוגה שחל בעבר ואתם מוסיפים לקטגוריה מדיניות TTL חדשה, המסמך יימחק תוך 24 שעות ממועד סיום ההגדרה של מדיניות ה-TTL והפעלתה שלה.

  • TTL לא בהכרח מוחקת מסמכים באותו סדר כמו חותמות הזמן של התפוגה שלהם.

  • המחיקה לא מתבצעת באופן טרנזקציוני. מסמכים עם אותו מועד תפוגה לא נמחקים בהכרח באותו זמן. אם אתם צריכים את ההתנהגות הזו, תצטרכו לבצע את המחיקות באמצעות ספריית לקוח.

  • Cloud Firestore תמיד יתבסס על שדה ה-TTL העדכני ביותר כדי לקבוע את התוקף. לדוגמה, אם תאריך התפוגה של מסמך פג אבל הוא עדיין לא נמחק, והשדה TTL עודכן לתאריך מאוחר יותר, תוקף המסמך לא יפוג והתאריך החדש ישמש.

  • TTL נועד לצמצם את ההשפעה על פעילויות אחרות של מסדי נתונים. מחיקה שמבוססת על TTL מקבלת עדיפות נמוכה יותר. יש גם אסטרטגיות אחרות שנועדו למנוע עליות חדות בתנועה שנובעות מחיסומים שמבוססים על TTL.

  • מחיקה באמצעות TTL מפעילה את כל המאזינים הפעילים ל-snapshot והטריגרים Cloud Functions Cloud Firestore.

שדות ואינדיקטורים של TTL

אפשר להוסיף שדה TTL לאינדקס או לבטל את ההוספה שלו לאינדקס. עם זאת, מכיוון ששדה TTL הוא חותמת זמן, הוספת השדה לאינדקס עשויה להשפיע על הביצועים כשנפח התנועה גבוה יותר. הוספה של שדה חותמת זמן לאינדקס עלולה ליצור נקודות חמות, בניגוד לשיטות המומלצות. נקודות חמות הן אירועים של שיעור גבוה של קריאה, כתיבה ומחיקה בטווח מצומצם של מסמכים.

כברירת מחדל, הפונקציה Cloud Firestore יוצרת אינדקס של שדה יחיד לכל השדות. אפשר ליצור החרגה של שדה אחד מהוספה לאינדקס כדי להשבית את ההוספה לאינדקס של שדה TTL.

הרשאות

לחשבון המשתמש שמגדיר מדיניות TTL נדרשת ההרשאה הבאה בפרויקט:

  • כדי להציג את כללי המדיניות של TTL, נדרשות ההרשאות datastore.indexes.list ו-datastore.indexes.get.
  • כדי לשנות את כללי מדיניות ה-TTL צריך את ההרשאה datastore.indexes.update.
  • כדי לבדוק את הסטטוס של פעולות TTL, צריך להשתמש ב-datastore.operations.list וב-datastore.operations.get.

במאמר Cloud Firestore תפקידים של ניהול זהויות והרשאות גישה מפורט מידע על התפקידים שמקצים את ההרשאות האלה.

לפני שמתחילים

לפני שמשתמשים ב-CLI של gcloud כדי לנהל מדיניות TTL, צריך להשתמש בפקודה gcloud components update כדי לעדכן את הרכיבים לגרסה האחרונה הזמינה:

gcloud components update

יצירת מדיניות TTL

כשיוצרים מדיניות TTL, צריך להקצות שדה במסמך כמועד התפוגה של מסמכים בקבוצת אוספים.

TTL משתמש בשדה מסוים כדי לזהות מסמכים שעומדים בדרישות למחיקה. שדה ה-TTL הזה חייב להיות מסוג Date and time. אפשר לבחור שדה שכבר קיים או להקצות שדה שאתם מתכננים להוסיף מאוחר יותר.

לפני שמגדירים את הערך בשדה TTL, כדאי להביא בחשבון את הדברים הבאים:

  • הערך בשדה TTL יכול להיות תאריך עתידי, עכשיו או בעבר. אם הערך הוא זמן בעבר, המסמך יהיה מוכן למחיקה באופן מיידי. לדוגמה, אפשר ליצור מדיניות TTL עם השדה expireAt, שאותו מוסיפים למסמכים קיימים.

  • שימוש בסוג נתונים אחר או אי הגדרה של ערך השדה TTL משביתים את TTL במסמך הספציפי.

כדי ליצור מדיניות TTL, יש לבצע את השלבים הבאים:

Google Cloud Console

  1. נכנסים לדף Databases במסוף Google Cloud.

    לדף Databases

  2. בוחרים את מסד הנתונים הרצוי מרשימת מסדי הנתונים.

  3. בתפריט הניווט, לוחצים על Time-to-live.

  4. לוחצים על Create Policy.

  5. מזינים שם לקבוצת האוספים ושם לשדה חותמת הזמן.

  6. לוחצים על יצירה.

המסוף חוזר לדף Time-to-live. אם הפעולה מתחילה בהצלחה, הדף מוסיף רשומה לטבלת כללי המדיניות של TTL. אם הפעולה נכשלת, תוצג בדף הודעת שגיאה.

gcloud

משתמשים בפקודה firestore fields ttls update כדי להגדיר מדיניות TTL. מוסיפים את הדגל --async כדי למנוע מה-CLI של gcloud להמתין לסיום הפעולה.

 gcloud firestore fields ttls update
  ttl_field --collection-group=collection_group_name
  --enable-ttl 

משך ההפעלה של מדיניות TTL

גם במסד נתונים ריק, הפעלת מדיניות TTL עשויה להימשך עשר דקות או יותר. אחרי שמתחילים פעולה, סגירת הטרמינל לא מבטלת את הפעולה.

הצגת כללי המדיניות בנושא TTL

כדי להציג את כללי המדיניות של TTL ואת הסטטוסים שלהם, פועלים לפי השלבים הבאים:

Google Cloud Console

  1. נכנסים לדף Databases במסוף Google Cloud.

    כניסה לדף Databases

  2. בוחרים את מסד הנתונים הנדרש מרשימת מסדי הנתונים.

  3. בתפריט הניווט, לוחצים על Time-to-live.

במסוף מפורטות כללי המדיניות של TTL למסד הנתונים, כולל סטטוס כל מדיניות.

gcloud

משתמשים בפקודה firestore fields ttls list כדי להגדיר מדיניות TTL. הפקודה הבאה מציגה רשימה של כל כללי ה-TTL.

   gcloud firestore fields ttls list
   

כדי לקבל רשימה של כללי TTL בקבוצת אוספים ספציפית, משתמשים בפקודה הבאה:

   gcloud firestore fields ttls list  --collection-group=collection_group_name
   

הצגת פרטי הפעולה

ב-CLI של gcloud אפשר לראות פרטים נוספים על מדיניות TTL במצב CREATING.

משתמשים בפקודה operations list כדי לראות את כל הפעולות שפועלות ופעולות שהושלמו לאחרונה:

gcloud firestore operations list

התשובה כוללת הערכה של התקדמות הפעולה.

השבתת מדיניות TTL

כדי להשבית מדיניות TTL:

Google Cloud Console

  1. נכנסים לדף Databases במסוף Google Cloud.

    לדף Databases

  2. בוחרים את מסד הנתונים הנדרש מרשימת מסדי הנתונים.

  3. בתפריט הניווט, לוחצים על Time-to-live.

  4. בטבלת המדיניות בנושא TTL, מחפשים את השורה של המדיניות בנושא TTL. בשורה הזו בטבלה, לוחצים על הלחצן Delete (פח אשפה).

  5. לוחצים על מחיקה כדי לאשר את המחיקה.

המסוף חוזר לדף Time-to-live. אם הפעולה תתבצע בהצלחה, הפונקציה Cloud Firestore תסיר את מדיניות ה-TTL מהטבלה.

gcloud

1. משתמשים בפקודה firestore fields ttls update כדי להגדיר מדיניות TTL. מוסיפים את הדגל --async כדי למנוע מה-CLI של gcloud להמתין לסיום הפעולה.

   gcloud firestore fields ttls update ttl_field --collection-group=collection_group_name --disable-ttl
   

מעקב אחר מחיקות של TTL

אפשר להשתמש ב-Cloud Monitoring כדי להציג מדדים לגבי מחיקה מבוססת-TTL. Cloud Firestore מספק את המדדים הבאים עבור TTL:

סוג מדד שם המדד תיאור המדד
firestore.googleapis.com/document/ttl_deletion_count מספר המחיקות לפי זמן חיים

המספר הכולל של מסמכים שנמחקו לפי מדיניות TTL.

firestore.googleapis.com/document/ttl_expiration_to_deletion_delays עיכובים בין תפוגת התוקף של משך החיים לבין המחיקה

משך הזמן שחלף בין תאריך התפוגה של המסמך לפי מדיניות TTL לבין מועד המחיקה בפועל.

במאמרים ניהול לוח בקרה בהתאמה אישית והוספת ווידג'טים למרכז הבקרה מוסבר איך מגדירים מרכז בקרה עם מדדי Cloud Firestore.