Продвинутые методы работы с данными

Импорт данных в Java

Anthony Markham

VP Quant Developer

Удаление и добавление столбцов

Удаление ненужных столбцов с помощью .drop()
Добавление вычисленных или категориальных столбцов с помощью .addColumns()
- Количество строк должно совпадать ❗

// Remove specific columns
Table cleaned = dataTable.drop("TempID", "Notes");


// Add two new columns
StringColumn statusCol = StringColumn.create("Status", "Active", "Inactive", "Active");
IntColumn priorityCol = IntColumn.create("Priority", 1, 2, 3);

Table enhanced = dataTable.addColumns(statusCol, priorityCol);

Фильтрация строк с помощью .dropWhere()

Удаляет совпадающие строки
Использует Selection для задания критериев фильтрации

// Create a selection condition
Selection outliers = dataTable.doubleColumn("Value")
    .isLessThan(lowerBound)
    .or(dataTable.doubleColumn("Value")
        .isGreaterThan(upperBound));


// Remove rows matching the condition
Table cleanedData = dataTable.dropWhere(outliers);

Подсчёт строк

.rowCount() — подсчитывает количество строк в таблице

// Compare row counts
System.out.println("Original rows: " + dataTable.rowCount());
System.out.println("After dropping outliers: " + 
    cleanedData.rowCount());

Original rows: 100
After dropping outliers: 95

Булева фильтрация

Поддерживает методы and, or, not

// Complex boolean filtering
Selection techHighPaid = dataTable.stringColumn("Department")
    .isEqualTo("Technology")
    .and(dataTable.doubleColumn("Salary")
        .isGreaterThan(100000));


// Inverse selection (NOT)
Selection nonTechOrLowPaid = techHighPaid.not();

Преобразование с помощью .map()

Применяет функцию для преобразования значений столбца
Поддерживает лямбда-выражения — код становится понятнее

// Transform an entire column with a predefined function
StringColumn upperNames = dataTable.stringColumn("Name").map(s -> s.toUpperCase());

// Transform values in a column
DoubleColumn prices = dataTable.doubleColumn("Price");
DoubleColumn discounted = prices.map(price -> price * 0.9);


// Set a name and add a column
discounted.setName("DiscountedPrice");
Table withDiscounts = dataTable.addColumns(discounted);

Итоги

.drop() — удаляет столбцы из таблицы
.dropWhere() — удаляет строки, соответствующие условию
.addColumns() — добавляет новые столбцы в таблицу
.map() — преобразует значения столбца

// Core advanced manipulation methods
dataTable.drop("TemporaryID");              
dataTable.dropWhere(selection);             
dataTable.addColumns(newColumn);            
doubleCol.map(value -> value * 2);

Давайте потренируемся!

Импорт данных в Java