Whose Hand is on the Vinyl?
NeurIPS 2026 Creative AI Track 採択作品

レコードの上の手は誰のもの?

プロのDJのスクラッチを動画から学習し、パッドで演奏できる楽器にしました。そのとき、スクラッチしているのは元のDJ?AI?それとも、演奏者?

J. Niimi (2026) Whose Hand is on the Vinyl? Transcribing a DJ's Scratch Gestures from Video into a Playable Instrument. NeurIPS 2026: CREATIVE AI Artwork Track.

完成したプラグイン

スクラッチは2つの動作の組み合わせ

片手:レコードを前後に回す もう片手:フェーダーで音を開け閉めする 開 閉

スクラッチに使う音はもともとレコードに入っています。DJがやっているのは、 レコードをどう回したか と フェーダーをどう動かしたか の2つの動きによる音の加工。この作品は、それらをそのまま数値に起こします。

動画から、その2本の線を読み取る

真上から撮ったターンテーブルとミキサー。レコードの角度とクロスフェーダーの位置が数字とグラフで重ねて表示されている
緑の輪 の中でレコードの目印を、 青い枠 の中でフェーダーの白い線を探します。

レコードに明るい丸いシールを貼って、スマホで真上から撮るだけ。1コマごとに シールの角度 と フェーダーの位置 を測ります。手でシールが隠れたコマは、位置を前後のコマとレコードの回転数から推測します。

スクラッチを別の楽器に変換する

鍵盤をたたく パッドやキーボード
→
DJの手の動きが
よみがえる
録った動きをそのまま再生
→
あなたの音が
スクラッチされる
ドラム、ラップ、エフェクト

鍵盤ひとつに、スクラッチの動きをひとつ。キーを押すと、プラグインの中のレコードが DJが回したとおりに回り 、DJが切ったところで音が切れます。そこで使われる音は、弾く人が自分で選びます。

音楽制作ソフトで使えるプラグイン(Audio Unit / VST3)として動きます。

じゃあ、演奏しているのはだれ?

DJの手
  • ひと振りの中の動き
  • どこで音を切るか
弾く人の手
  • なんの音を使うか
  • どこでどう鳴らすか

ここではターンテーブリズムという演奏技術が、ビートメイクという別の技術に転移します。スクラッチを極めたい人、それを音として作品に組み込みたい人、そのどちらが欠けてもこの作品は成り立ちません。 これは、ある高度な専門性が別の高度な専門性に変換される過程を表しています。

ちなみに...

HUMANIZE 40%
0%:毎回まったく同じ 100%:毎回少しずつゆらぐ

いくらプロのDJのスクラッチでも、同じ動きを完璧にくり返すと人間らしく聞こえません。 そこでゆらぎのつまみをつけました。どれだけ偶然にまかせるかを、弾く人が自分で決めます。

AI化するということの意味

人の動きを学習して自由に再現できるようにするというのは、必ずしも中立的な行為ではありません。機械学習はその目的上、必ず何かしらのプロフェッショナリズムを奪うからです。ある人が人生を賭けて培った技術を、会ったこともない人がコピーして自由に使えることは、どこまで許されるのでしょうか?
よって、完成したプラグインは公開していますが、その学習方法は公開しません。制作者が個別に許可を取った人の技術のみをお借りしています。