De acordo com a Timatic (o sistema de vistos usado pela maioria das companhias aéreas), um cidadão indiano em trânsito por Riad não precisa de visto:
TWOV (Transit Without Visa): Visa required, except for Holders of onward tickets for a max transit time of 12 hours through Dammam (DMM), Jeddah (JED) or Riyadh (RUH).
Only one transit stop-over in Saudi Arabia is permitted.
Quanto à questão da bagagem, essa é uma pergunta que você precisa fazer à Turkish Airlines, e não à Air India, já que é sua decisão se farão isso ou não.
Se ambas as reservas estiverem no mesmo bilhete, a política da Turkish Airlines é que elas despacharão a bagagem até o seu destino final. Não haverá necessidade de fazer nada com sua bagagem em Riad.
Se as duas reservas estiverem em um ticket separado, você tem um problema. Oficialmente, a Turkish Airlines não irá "interline" as malas para outra companhia aérea quando a reserva estiver em um bilhete diferente. É possível (mas improvável) que você seja capaz de convencê-los a fazer isso no check-in, mas a política deles é que eles não farão isso.
Isso basicamente significa que, se ambos os voos estiverem em bilhetes separados, você provavelmente terá o embarque negado na sua origem. Como você não possui um visto para a Arábia Saudita, não seria capaz de coletar e verificar novamente suas malas e, portanto, recusar-se-ia a embarcar.
E não, você não pode obter um visto de trânsito - a Arábia Saudita não concede vistos de trânsito ou de turista, e todos os outros vistos são caros e difíceis de obter (meu custo atual é bem acima de $ 1000!)