Відтепер стало можливим визначати звук, аналізуючи певні рухи

Моделі глибокого навчання можуть визначати географічні координати рухомого автомобіля по звуку його двигуна і шин, що котяться до мікрофона або від нього

Дослідники Массачусетського технологічного інституту представили нейромережу, яка аналізує рух тіла, щоб визначити звуки окремих інструментів. Вона зіставляє рухи музикантів з темпом окремих партій, дозволяючи виділити одну флейту або одну скрипку з ряду подібних інструментів.

Інструмент Music Gesture можна застосовувати для різних завдань: від мікшування звуку і збільшення гучності інструменту в запису і до зниження рівня сторонніх шумів, які можуть служити перешкодою під час відеоконференцзв'язку.

У цьому та інших подібних проектах дослідники використовували синхронізовані аудіо-відео-треки для навчання. Антоніо Торралба, професор МТІ і співавтор дослідження, зазначає: «Мультисенсорна обробка є попередником систем ШІ, які зможуть виконувати більш складні завдання».

Раніше дослідники використовували моделі глибокого навчання, навчені на парних аудіо-відео даних, щоб навчити їх розпізнавати природні звуки, такі як спів птахів або гуркіт хвиль. Тим часом Google у співпраці з орнітологічною лабораторією Корнелльського університету вже запустила конкурс зі створення алгоритму, який буде розпізнавати та класифікувати пташині голоси.