Відтепер стало можливим визначати звук, аналізуючи певні рухи

Дослідники Массачусетського технологічного інституту представили нейромережу, яка аналізує рух тіла, щоб визначити звуки окремих інструментів. Вона зіставляє рухи музикантів з темпом окремих партій, дозволяючи виділити одну флейту або одну скрипку з ряду подібних інструментів.

Інструмент Music Gesture можна застосовувати для різних завдань: від мікшування звуку і збільшення гучності інструменту в запису і до зниження рівня сторонніх шумів, які можуть служити перешкодою під час відеоконференцзв'язку.

У цьому та інших подібних проектах дослідники використовували синхронізовані аудіо-відео-треки для навчання. Антоніо Торралба, професор МТІ і співавтор дослідження, зазначає: «Мультисенсорна обробка є попередником систем ШІ, які зможуть виконувати більш складні завдання».

Раніше дослідники використовували моделі глибокого навчання, навчені на парних аудіо-відео даних, щоб навчити їх розпізнавати природні звуки, такі як спів птахів або гуркіт хвиль. Тим часом Google у співпраці з орнітологічною лабораторією Корнелльського університету вже запустила конкурс зі створення алгоритму, який буде розпізнавати та класифікувати пташині голоси.

Читайте також:

• З 29 листопада на Закарпатті перекриють важливий переїзд: як це вплине на рух автотранспорту?
• Закарпатцям варто бути на сторожі: в області запрацювала ще одна система автоматичної фіксації порушень ПДР
• Графік відключень світла на 28 листопада, який декого потішить
• Блекаут поза графіком й вітряки ні до чого?: масштабна атака й не відповідність відключень у Закарпатській області