How can we help?

Data Locker: настройка облачного сервиса

  • Обновлено

Краткий обзор: Настройте свой облачный сервис для получения данных из Data Locker: GCS, AWS, BigQuery или Snowflake.

Data Locker позволяет передавать потоковые данные в выбранное вами собственное хранилище – бакет или хранилище данных. Настройте облачный сервис, используя одну из следующих процедур.

Облачная корзина

Хранилище GCS

Прежде чем начать, обратите внимание на следующее:

  • Процедуру, описанную в этом разделе, должен выполнить ваш администратор Google Cloud.
  • Вы можете удалить файлы из Data Locker через 25 и более часов после того, как они были созданы. Не удаляйте файлы до истечения этого времени.

Информация для администратора GCS

Data Locker — это решение AppsFlyer для потоковой передачи данных в хранилище.

Требования

  • Создайте бакет GCS исключительно для использования Data Locker. Исключительно означает, что никакие другие сервисы не должны записывать данные в эту корзину. 
  • Рекомендуемое название корзины: af-datalocker.
  • Предоставьте Data Locker необходимые разрешения, используя следующую процедуру.

Чтобы предоставить разрешения Data Locker:

В этой процедуре замените data-locker-example, указанное значение на имя бакета, который вы ранее создали для Data Locker. 

  1. Войдите в консоль GCS.
  2. Перейдите в Хранилище > Браузер хранилища
     

    mceclip0.png

  3. Выберите бакет, который вы создали ранее, например data-locker-example
  4. Перейдите на вкладку Разрешения
  5. Нажмите +Добавить.
    Откроется окно Add members (Добавить пользователей).
  6. Заполните следующим образом:
    1. Новые члены, вставьте следующий фрагмент.

      af-data-delivery@af-raw-data.iam.gserviceaccount.com
    2. Выберите роль: Cloud storage > Storage Object Admin (Администратор объектов хранилища). 

      mceclip0.png

  7. Нажмите Сохранить

Хранилище AWS

Прежде чем начать, обратите внимание на следующее:

  • Процедуру, описанную в этом разделе, должен выполнить ваш администратор AWS.
  • Вы можете удалить файлы из Data Locker через 25 и более часов после того, как они были созданы. Не удаляйте файлы до истечения этого времени.

Информация для администратора AWS

Data Locker — это решение AppsFlyer для потоковой передачи данных в хранилище.

Требования

  • Создайте AWS- бакет с именем af-datalocker -mybucket. Префикс af-datalocker- обязателен. В суффиксе можно указать любое текстовое значение.
  • Рекомендуем использовать формат "af-datalocker-гггг-мм-дд-чч-мм-произвольный-текст". Где "гггг-мм-дд-чч-мм" — это текущие дата и время, и вы можете добавить любой текст произвольно, как описано на следующем изображении.

Пользовательский интерфейс в консоли AWS

MyBucket.jpg

После создания бакета предоставьте AppsFlyer необходимые разрешения, используя следующие правила. 

Чтобы создать корзину и предоставить разрешения AppsFlyer: 

  1. Войдите в консоль AWS.
  2. Откройте сервис S3.
  3. Чтобы создать корзину:
    1. Нажмите Create bucket (Создать корзину).
    2. Заполните название корзины следующим образом: Начните с af-datalocker- и затем добавьте любой другой текст, как описано выше.
    3. Укажите один из поддерживаемых AWS регионов.
    4. Нажмите Создать корзину.
  4. Чтобы предоставить разрешения AppsFlyer:
    1. Выберите корзину. 
    2. Перейдите на вкладку Разрешения
    3. В разделе Политика бакета нажмите Редактировать. 
      Откроется окно политики корзины.
    4. Вставьте в это окно следующий фрагмент кода.

      {
        "Version": "2012-10-17",
        "Statement": [
          {
            "Sid": "AF_DataLocker_Direct",
            "Effect": "Allow",
            "Principal": {
              "AWS": "arn:aws:iam::195229424603:user/product=datalocker__envtype=prod__ns=default"
            },
            "Action": [
              "s3:GetObject",
              "s3:ListBucket",
              "s3:DeleteObject",
              "s3:PutObject"
            ],
            "Resource": [
              "arn:aws:s3:::af-datalocker-my-bucket",
              "arn:aws:s3:::af-datalocker-my-bucket/*"
            ]
          }
        ]
      }
      
  5. В этом коде замените af-datalocker-my-bucket на название созданного вами бакета.
  6. [Необязательно] Добавьте поддержку бакетов с шифрованием KMS. Для этого в разделе Политика ключей выберитеПереключиться в режим просмотра политики вставьте следующий фрагмент в Массив утверждений.
     

     

    {
          "Sid": "Разрешить использование ключа",
          "Effect": "Allow",
          "Principal": {
              "AWS": "arn:aws:iam::195229424603:user/product=datalocker__envtype=prod__ns=default"
          },
          "Action": "kms:GenerateDataKey*",
          "Resource": "*"
      }
    
  7. Выберите Сохранить изменения.
  8. Выполните процедуру настройки Data Locker.

Поддерживаемые регионы AWS

Data Locker поддерживает следующие регионы для AWS:

  • Азиатско-Тихоокеанский регион (Токио): ap-northeast-1
  • Азиатско-Тихоокеанский регион (Сеул): ap-northeast-2
  • Азиатско-Тихоокеанский регион (Мумбаи): ap-south-1
  • Азиатско-Тихоокеанский регион (Сингапур): ap-southeast-1
  • Азиатско-Тихоокеанский регион (Сидней): ap-southeast-2
  • Канада (Центральный): ca-central-1
  • ЕС (Франкфурт): eu-central-1
  • ЕС (Ирландия): eu-west-1
  • ЕС (Лондон): eu-west-2
  • Южная Америка (Сан-Паулу): sa-east-1
  • США, восток (Сев. США Восток (Северная Вирджиния): us-east-1
  • США Восток (Огайо): us-east-2
  • США, запад (Сев. США Запад (Северная Калифорния): us-west-1
  • США Запад (Орегон): us-west-2

Хранилище Azure

Прежде чем начать, обратите внимание на следующее:

  • Процедуру, описанную в этом разделе, должен выполнить ваш администратор Azure Cloud.
  • Вы можете удалить файлы из Data Locker через 25 и более часов после того, как они были созданы. Не удаляйте файлы до истечения этого времени.

Информация для администратора Azure

Data Locker — это решение AppsFlyer для потоковой передачи данных в ваш аккаунт хранилища.

Чтобы определить аккаунт хранилища для Data Locker:

  1. На портале Azure перейдите в учетные записи хранилищ Azure и нажмите predict_dashboard_plus_symbol.pngСоздать, чтобы создать новую учетную запись хранилища для получения данных Appsflyer. и кликните predict_dashboard_plus_symbol.pngСоздать, чтобы создать учётную запись хранилища для получения данных AppsFlyer.
  2. На вкладкеБазовый>Детали проекта выберите из выпадающих списков:
    1. подписку
    2. группу ресурсов.
      Необязательно: Если группы ресурсов не существует, нажмите Создать новую, чтобы создать группу ресурсов.
  3. В разделе Детали события:
    1. Введите Название учётной записи хранения.
    2. Выберите регион из ниспадающего списка.
  4. Нажмите Далее. Advanced (Расширенные настройки) > 
  5. Во вкладке Безопасность выберите Включить иерархический список имен.
  6. НажмитеОбзор -> Создать.
  7. После завершения развертывания вернитесь к своим учетным записям хранилища Azure и выберите только что созданную учетную запись.
  8. Перейдите к Ключи доступа, скопируйте своё Название учётной записи хранилища и один из ваших ключей
  9. Перейдите к Обозреватель хранилищ -> Blob-контейнерыи нажмите predict_dashboard_plus_symbol.pngДобавить контейнер.
    1. Введите Название для нового контейнера.
    2. Нажмите Создать.
  10. После активации в AppsFlyer перейдите в Data Locker > predict_dashboard_plus_symbol.pngНовое соединение.
  11. В новом соединении:
    1. Дайте название подключению.
    2. Выберите Azure Blob.
    3. Введите Название контейнераAzure в поле Название бакета (то же самое, что и на шаге 9).
    4. Введите ваше скопированное Название учётной записи хранения из шага 8.
    5. Введите скопированныйКлюч из шага 8.
    6. Нажмите Тестировать подключение.
    7. Сохранить

[Бета-версия] Облачное хранилище Yandex Cloud

Прежде чем начать, обратите внимание на следующее:

  • Процедуру, описанную в этом разделе, должен выполнить ваш администратор Yandex Cloud.
  • Вы можете удалить файлы из Data Locker через 25 и более часов после того, как они были созданы. Не удаляйте файлы до истечения этого времени.

Информация для администратора Yandex

Data Locker — это решение AppsFlyer для потоковой передачи данных в хранилище.

Чтобы создать корзину и предоставить разрешения Data Locker:

  1. В вашей консоли Yandex Cloud перейдите на вкладку Служебная учетная запись и нажмите Создать служебный аккаунт.
  2. Назовите аккаунт службы, например, af-datalocker.
  3. Создайте статический ключ доступа для аккаунта службы. В служебном аккаунте:
    1. Нажмите Создать новый ключ.
    2. Выберите Создать статический ключ доступа.
    3. Сохраните идентификатор ключа и секретный ключ.
  4. Дайте новому аккаунту службы разрешение storage.editor
    1. В настройках бакета откройте раздел «Привязки доступа» и нажмите «Назначить привязки».
    2. Для нового служебного аккаунта добавьте роль редактор хранилища и нажмите Сохранить.
  5. Свяжитесь с вашим менеджером AppsFlyer, чтобы включить Яндекс в Data Locker.
  6. После включения используйте идентификатор ключа и секретный ключ во время настройки Data Locker.

Облачное хранилище данных

BigQuery

Процедуру, описанную в этом разделе, должен выполнить ваш администратор BigQuery.

Информация для администратора BigQuery

Data Locker — это решение AppsFlyer для потоковой передачи данных в хранилище.

Требования

  • Создайте набор данных BigQuery

Чтобы создать набор данных BigQuery: 

  1. В BigQuery создайте проект или используйте существующий проект
  2. В проекте нажмите CREATE DATASET. GCSCreateDataSEt_1_.png
  3. Присвойте набору данных подходящий идентификатор.

     Примечание:

    Убедитесь, что целевой проект или набор данных связан с активным биллинговым счётом. Без биллингового счёта Data Locker не сможет создавать и записывать таблицы в назначении BigQuery, и процесс настройки подключения может завершиться неудачей.

  4. Предоставьте AppsFlyer доступ к этому набору данных. См. инструкции BigQuery
    • Для Add principal (Добавить принципала) используйте следующего пользователя AppsFlyer: datalocker-bq-admin-prod@datalocker-bq-prod.iam.gserviceaccount.com.
    • Для Assign roles (Назначить роли), выберите BigQuery Data Editor (Редактор данных BigQuery).
  5. Задайте значения других необходимых параметров. 

Snowflake

Подключите Data Locker к своему аккаунту Snowflake. Данные будут отправляться в Snowflake и останутся доступны в выбранном вами облачном хранилище.

Примечания для разработчиков решений бизнес-аналитики

  • Частота обновления данных такая же, как и для данных, предоставляемых в бакете.
  • Структура таблиц и столбцов соответствует структуре данных, доступных непосредственно в бакете Data Locker.
  • По мере добавления строк в общий доступ Snowflake, _ingestion_time столбец заполняется в местном часовом поясе системы (не UTC). Чтобы обеспечить уникальность строк и не допустить многократный импорт одной и той же строки:
    1. Сохраните max_ingestion_time для таблицы, которая была загружена.
    2. При каждом запуске процесса импорта загружать только те строки, у которых _ingestion_time > max_ingestion_time.

Выполните следующие действия, чтобы подключить Snowflake к Data Locker. 

Процедура для коннектора Snowflake

Чтобы узнать регион и идентификатор аккаунта Snowflake:

  1. В Snowflake войдите в свой аккаунт Snowflake.
  2. В строке меню выберите свое имя.
    Появятся регион и идентификатор аккаунта.

    Детали учетной записи Snowflake

Чтобы подключить Data Locker к Snowflake:

  1. В AppsFlyer перейдите в раздел Отчеты > Data Locker.
  2. Выберите Snowflake.
  3. Введите регион Snowflake и идентификатор учётной записи, используя сведения, ранее полученные от Snowflake.
  4. Нажмите Сохранить.

Чтобы создать базу данных из общей папки Snowflake:

  1. В Snowflake войдите в свой аккаунт Snowflake.
  2. Смените роль на Accountadmin (Админстратор аккаунта). См. раздел Создание базы данных из общей папки.
  3. Выберите Shares (Общие папки).
  4. Выберите общую папку AppsFlyer. Например, APPSFLYER_ACC_XXX_DATA_LOCKER.
  5. Нажмите Create Database from Secure Share и укажите необходимые данные. Важно! Обязательно загрузите данные из общей базы в свои таблицы, поскольку срок их доступности в базе данных ограничен (в настоящее время – 14 днями).  
  6. В вашей базе данных отображаются импортированные таблицы. Названия и структура таблиц аналогичны используемым в корзинах Data Locker.

     

Характеристики и ограничения

Специфика Описание
Подключение к облаку AppsFlyer Отчеты не могут храниться в несжатом виде
Изменение местоположения набора данных BigQuery Если вы измените расположение набора данных в BigQuery, необходимо заново сохранить соединение в AppsFlyer. Поскольку в настройках подключения AppsFlyer не требуется изменений конфигурации, кнопкаСохранить отключена. Чтобы активировать кнопку, внесите временное изменение, сохраните соединение, затем отмените изменение и снова сохраните соединение.
Поддерживаемые регионы Snowflake

Поддерживаемые регионы AWS:

  • us-east-1
  • us-east-2
  • us-west-2
  • eu-west-1
  • eu-west-2
  • eu-west-3
  • eu-central-1
  • eu-north-1
  • ca-central-1
  • sa-east-1
  • ap-south-1
  • ap-southeast-1
  • ap-southeast-2
  • ap-northeast-1
  • ap-northeast-2
  • ap-northeast-3

Поддерживаемые регионы Azure:

  • australia-east
  • east-us-2
  • central-us
  • southcentral-us
  • west-europe
  • west-us-2

Поддерживаемые регионы GCP:

  • Ограниченная поддержка. Свяжитесь с поддержкой AppsFlyer, чтобы подтвердить доступность для вашего региона.

См. также

 

This article was translated using AI and may contain errors. For the most accurate information, please refer to the English version using the language selector.


Share article: